Короче, тут Х (ex Twitter) на ушах ходит, потому что бывший сотрудник Anthropic и OpenAI Джейкоб Коксон выложил свой первый твит и набрал за сутки больше 70 миллионов просмотров. И он говорит, что компании действуют безрассудно, постоянно улучшая модели, и что в самих компаниях сотрудники верят в то, что ИИ способен уничтожить человечество в ближайшее десятилетие. Но остановиться никто не может, т.к. все участвуют в гонке друг с другом. И недавняя атака на агентов OpenAI на Hugging Face это подтверждает
И ладно, у нас хватает параноиков, и это можно списать на субъективное мнение одного человека, но к Джейкобу присоединился коллега – тим лид из Антропика, и сказал, что полностью согласен, и прикидывает, что вероятность уничтожения человечества составляет >10% 😬
Это напоминает холодную войну, где две страны никак не могли остановиться, бессмысленно наращивая потенциал. Благо, там все закончилось выходном одной страны из гонки в связи с ее развалом. А что нас ждет в гонке ИИшек? Будущее, как в Дюне?
В общем, я просто держу в курсе. А вы знаете, с какими тревожными друзьями поделиться этой новостью 🤗