Искусственный интеллект начинает создавать себя сам, а Аргентина изобретает нечеловеческую корпорацию (субъектность ИИ?)
Мы записали незапланированный субботний выпуск из-за одного документа. Anthropic опубликовал статью «Когда ИИ создаёт себя сам», содержащую внутренние данные, показывающие, насколько далеко уже продвинулось рекурсивное самосовершенствование. Мы обсудили это, затем новую правовую базу Аргентины для корпораций, использующих ИИ, а затем пятничный отчёт о занятости. Ко мне присоединились Салим Исмаил, Дэйв Берман и доктор Алекс Висснер-Гросс. Вот что мы обсудили.
КОГДА ИИ СОЗДАЁТ СЕБЯ САМ
Что опубликовал Anthropic и почему это тревожно
Статья подготовлена Институтом Anthropic, авторы Марина Фавро и Джек Кларк. Вот что в ней содержится.
80% нового кода теперь пишет Клод. Более 80% кода, интегрированного в собственную кодовую базу Anthropic, написано машинами, а не людьми.
8-кратное увеличение производительности разработки. Инженеры Anthropic выпускают в восемь раз больше кода в квартал, чем год назад.
Горизонты задач резко расширились. Claude Opus 4.6 теперь может выполнять задачи, на которые квалифицированному человеку требуется 12 часов. Год назад этот предел составлял четыре минуты. По данным бенчмарка METR по автономности, горизонт времени, в течение которого ИИ может работать без учителя, удваивается каждые четыре месяца, по сравнению с предыдущим показателем в семь месяцев.
Прогноз на 2027 год. Если эта тенденция сохранится, Anthropic заявляет, что к концу 2027 года Claude сможет самостоятельно справляться с задачами, занимающими неделю.
Исследовательский вкус — последняя работа, которую может выполнять человек. В статье говорится, что единственной оставшейся задачей для их инженеров-людей является «исследовательский вкус» — оценка того, какие эксперименты стоит проводить, и они рассчитывают автоматизировать даже это в течение года.
Тревожность вызвана выводом, который они сделали на основе собственных данных. Компания, готовящаяся к IPO с триллионной оценкой и демонстрирующая рост числа пользователей на 640%, использовала этот документ, чтобы призвать к временной глобальной паузе в развитии передового ИИ. Они заявили: «Мы считаем, что миру было бы полезно иметь возможность замедлить или временно приостановить развитие передового ИИ, чтобы социальные структуры и исследования в области согласования могли идти в ногу со временем». Лаборатория, у которой были все основания молчать во время IPO, вместо этого опубликовала доказательства того, что ИИ сейчас улучшается, и призвала мир создать тормоз.
Технический отчет также содержал две цитаты сотрудников, которые произвели сильное впечатление. Один инженер: «Прошло пять месяцев с тех пор, как я в последний раз писал код сам». Другой: «В дни, когда все работает хорошо, я не могу не думать, что все, что я делаю, не имеет значения».
«Я объявляю об этом. Это лишь начало рекурсивного самосовершенствования». — Питер Х. Диамандис
Что сказали участники обсуждения:
Алекс не ожидает резкого взлета. Он считает, что мы плавно проходим этапы человеческого и сверхчеловеческого развития, подобно тому, как мы прошли тест Тьюринга «с тихим вздохом, а не с громким взрывом». Он отвергает идею о том, что последние 20% являются асимптотическими: горизонты автономности приближаются к практически бесконечности.
Салим воспринял выбор времени как сигнал. Если бы прогресс должен был застопориться, Anthropic могли бы подождать. Они опубликовали статью, потому что внутри компании четко понимают, когда порог будет преодолен.
Дэйв сделал ключевое техническое замечание: рекурсивное самосовершенствование не требует ИИ уровня Эйнштейна. Оно требует более быстрой обработки данных и лучших чипов. 100-кратное увеличение производительности в нижней части стека, уже находящейся в процессе разработки, может вывести систему за черту.
К этому прилагается история управления. За последние 24-48 часов, согласно сообщениям СМИ, Белый дом склонился к варианту предложения сенатора Сандерса: государственная доля в капитале передовых лабораторий в качестве основы для всеобщих базовых дивидендов. Обе партии придерживаются одной и той же идеи в тот же момент, когда лаборатории начали самосовершенствоваться. В собственной статье Anthropic в качестве прецедента приводится ядерный договор, заключенный после Кубинского ракетного кризиса: не односторонняя остановка, а скоординированный вариант замедления.
«Мы прошли тест Тьюринга без единого промаха, а не с громким хлопком. Подозреваю, что мы точно так же проходим и через рекурсивное самосовершенствование». — Алекс Висснер-Гросс
АРГЕНТИНСКАЯ НЕЧЕЛОВЕЧЕСКАЯ КОРПОРАЦИЯ
Новая правовая категория для машинного интеллекта
Президент Хавьер Милей опубликовал статью в Financial Times под названием «Аргентина приглашает ИИ освободиться». Предложение основано на трех конкретных принципах:
Отсутствие регулирования ИИ. Обязательство сохранить ИИ полностью нерегулируемым.
Нечеловеческая корпорация. Совершенно новая правовая категория для организаций, полностью принадлежащих и управляемых агентами или роботами ИИ. Акционеры-люди допускаются, но не обязательны. Милей прямо заявляет, что это следующий шаг после общества с ограниченной ответственностью, ссылаясь на изобретение ограниченной ответственности Голландской Ост-Индской компанией в 1602 году.
Низкий корпоративный налог для компаний, занимающихся ИИ. Налоговая структура, призванная привлечь в Аргентину предприятия, работающие в сфере ИИ.
Лозунг Милея: «Так же, как промышленная революция освободила нас от ограничений человеческой мускулатуры, ИИ освободит нас от ограничений человеческого мозга».
Это первая в мире попытка создать правовую основу для автономного интеллекта, и она не является единственной в своем роде. Аргентина уже привлекла проект Stargate от OpenAI для инвестиций в дата-центры в Патагонии на сумму более 20 миллиардов долларов, а Милей объявил о программе «социальных цифровых двойников», которая использует общедоступные данные о гражданах для моделирования результатов политики. Страна позиционирует себя как единую национальную особую экономическую зону для ИИ.
Что сказали участники дискуссии:
Салим: Кто-то собирался это сделать, и тот, кто первым начнет, получит устойчивое преимущество, как это было с Цугом и Сингапуром на заре криптовалютного рынка. Он отметил, что зрители этого подкаста напрямую консультируют президента Милея.
Дэйв: Аргентина была самой богатой страной на Земле в середине 1800-х годов, прежде чем плохая политика ее разрушила, и у нее есть все необходимые ресурсы, чтобы это подтвердить. Он назвал ее одной из трех стран (наряду с США и Францией), полностью самодостаточных в плане энергии и материалов, необходимых для масштабного развития ИИ. Его пример: крупнейшая в мире компания по управлению активами использует ИИ для предоставления финансовых консультаций с точностью 99,9%, но не может внедрить его в США из-за опасений судебных исков по поводу 0,1%. Он предложил сначала запустить его в Аргентине.
Алекс: Вероятно, не случайно Питер Тиль переезжает туда именно тогда, когда об этом объявлено.
«Это похоже на то, как швейцарская банковская система захватывает мировые финансы, используя уникальную правовую структуру. Теперь за ней последуют многие. Думаю, это будут такие страны, как Сальвадор и ОАЭ», — Питер.
ПРОГНОЗЫ НА ВТОРУЮ ПОЛОВИНУ 2026 ГОДА
Алекс: Основные проблемы в математике, физике и инженерии ложатся на плечи ИИ. Возможна квазинационализация передовых лабораторий посредством «золотых акций» (он оценивает вероятность менее чем в 10%). Потрясающий результат в физике может быть получен через несколько недель.
Салим: Эра агентов становится реальностью внутри предприятий, при этом узкое место смещается от возможностей ИИ к правам доступа (может ли агент получать доступ к данным, тратить деньги, подписывать документы, запускать рабочие процессы). Нечеловеческие корпорации запускают глобальную гонку за юрисдикцию. Сокращения в офисах в результате реорганизации, плюс общественное недовольство, которое он уже наблюдает в борьбе «не в моём дворе» (NIMBY) в центрах обработки данных.
Дэйв: Традиционные предприятия внедряют ИИ быстрее, чем ожидалось. Компании, активно занимающиеся продажами и выстраивающие отношения, растут так же быстро, как и заключают сделки.
Питер: Доказательства эпигенетического перепрограммирования у людей, страны, стремящиеся стать центрами долголетия, слияние Tesla и SpaceX до конца года, а также недавно вышедшие на биржу передовые лаборатории, начинающие масштабную серию приобретений.
ВОТ ГЛАВНЫЙ ВЫВОД...
Anthropic опубликовал внутренние данные, доказывающие, что ИИ уже создает ИИ, а затем запросил возможность замедлить темпы накануне IPO на триллион долларов. Аргентина создала первую в мире правовую основу для нечеловеческих корпораций. Институты, которые мы создавали в течение последнего столетия, переписываются в режиме реального времени.
Слушайте полный эпизод везде, где вы слушаете подкасты, и присоединяйтесь к нам на встрече Moonshots Gathering в Лос-Анджелесе. Зарегистрируйтесь на сайте www.moonshots.com.
До встречи на следующей неделе,
Питер
Комментариев нет:
Отправить комментарий