Экс-исследователь Anthropic сравнил сверхинтеллект с чужим разумом

Бывший исследователь Anthropic Джейкоб Коксон, ранее объявивший об уходе из ИИ-индустрии, оценил перспективы создания сверхинтеллекта. Как передает ABC, он предложил рассматривать появление такой технологии как призыв неизвестного инопланетного разума.

По словам Коксона, эта аналогия особенно пугает, поскольку природа такого разума остается не до конца понятной. При обсуждении сверхинтеллекта он считает важным учитывать его потенциальную непохожесть на человеческое мышление.

Ранее эксперт по кибербезопасности Александр Дворянский заявил, что нейросети пока полностью контролируются людьми. Это связано с тем, что при их создании использовался принцип «не навреди человеку». По его мнению, в будущем целесообразно разработать механизмы экстренного отключения систем ИИ, которые позволят предотвращать потенциально опасные ситуации.

До этого команда из 25 ученых-математиков, лауреатов Филдсовской премии, утверждала, что искусственный интеллект причиняет урон математической науке и ее сообществу. По мнению специалистов, стремление фирм, работающих в сфере ИИ, применять решение математических задач как тест производительности вредит дисциплине и ее кругу.