Сразу три исследователя компании Anthropic публично заявили о рисках неконтролируемого искусственного интеллекта, пишет Axios.
По их словам, речь идет о потенциальной угрозе для всего человечества, и произойти это может уже в текущем десятилетии.
Первым выступил Джейкоб Кокзон, уволившийся во вторник, чтобы привлечь внимание к проблеме. В посте на X он написал, что люди, создающие ИИ, искренне верят в его способность уничтожить нас всех до конца десятилетия.
«Многие руководители и старшие исследователи в публичных высказываниях подбирают осторожные формулировки, чтобы звучать разумно, но в частных разговорах выражают настоящий страх. Ни одна другая человеческая деятельность не несет такого уровня опасности», — написал он.
Голоса изнутри компании
Эван Хабингер, руководитель направления alignment science, поддержал коллегу: «Мы действительно искренне верим, что ИИ может уничтожить всех людей. Лично я оцениваю эту вероятность выше 10% в течение следующего десятилетия. У нас до сих пор нет плана решения проблемы выравнивания для сверхинтеллекта, и мы явно не на верном пути».
Сэмюэл Маркс, руководитель направления scalable oversight, добавил, что чем выше должность сотрудника, тем сильнее его беспокойство по поводу этой проблемы.
Дилемма без простого ответа
Предупреждения прозвучали через несколько дней после того, как руководство OpenAI, включая Сэма 
Альтмана, заявило, что ИИ стремительно входит в неконтролируемую фазу.
Компании оказались перед выбором: замедлиться и отстать от конкурентов или двигаться вперед и потерять контроль. Пока они выбирают второе, одновременно призывая к регулированию отрасли и глобальной паузе в разработках.
Исследователи говорят о том, что технология совершенствуется быстрее ожиданий, и в обозримом будущем ИИ получит способность к рекурсивному самосовершенствованию. После этого процесс ускорится многократно, а его управляемость резко упадет. Скептики считают такие заявления способом привлекать инвестиции и добиваться регулирования, которое закрепит позиции лидеров рынка.
Журналисты Axios, месяцами общавшиеся с десятками сотрудников этих компаний, фиксируют: тон разговоров становится все тревожнее.
