Математик из Anthropic покидает ИИ-индустрию из-за риска катастрофы в 2027 году

27-летний британский математик Джейкоб Коксон, исследователь из компании Anthropic, принял решение покинуть ИИ-индустрию. По информации The Wall Street Journal, он опасается, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к катастрофе уже в конце 2027 года.

Коксон не хочет участвовать в гонке по созданию саморазвивающихся ИИ-моделей, считая, что такие системы способны «выйти из-под контроля и уничтожить человечество». Он отмечает, что коллеги все чаще описывают текущую траекторию развития технологий словами «критическая точка» и «эндшпиль». «Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — приводит его слова издание.

В начале года Коксон перешел из OpenAI в Anthropic, привлеченный репутацией компании в области безопасности ИИ. Однако теперь он пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития отрасли, хотя по-прежнему уважает подход Anthropic к этой проблеме.

По данным издания, теперь Коксон планирует изучать поэзию.