Математик из Anthropic покидает ИИ-индустрию из-за риска катастрофы в 2027 году

Двадцатисемилетний британский математик Джейкоб Коксон, работавший исследователем в Anthropic, решил уйти из отрасли искусственного интеллекта, сообщает The Wall Street Journal.

Коксон опасается, что соперничество крупных технологических компаний приближает мир к опасной черте. По его мнению, развитие отрасли может привести к тяжелым последствиям уже к концу 2027 года.

Математик заявил, что не хочет участвовать в создании саморазвивающихся моделей искусственного интеллекта. Он считает, что такие системы могут выйти из-под контроля и представлять угрозу для человечества.

По словам Коксона, специалисты внутри отрасли все чаще описывают нынешнее направление развития как критический этап. Он также отметил, что обсуждаемые сценарии становятся все более тревожными, а ситуация может резко ухудшиться уже в ближайшем будущем.

Ранее Коксон перешел из OpenAI в Anthropic, поскольку считал эту компанию более внимательной к вопросам безопасности искусственного интеллекта. При этом он по-прежнему с уважением относится к подходу Anthropic к этой теме.

Теперь исследователь пришел к выводу, что ни одна частная компания не способна этично заниматься разработкой мощного искусственного интеллекта без внешнего регулирования или согласованного замедления всей отрасли.

По данным издания, после ухода из сферы искусственного интеллекта Коксон намерен заняться изучением поэзии.