Исследователи указали на существование новой опасности, с которой не сравнятся пандемия и ядерная война.
Вымирание человечества в ближайшие годы может вызвать слишком стремительное развитие искусственного интеллекта (ИИ). Об этом сообщает американское издание The Week. Ряд экспертов предполагает, что вскоре ИИ станет настолько сверхразумным и мощным, что будет автономным и вызовет массовые социальные потрясения или даже уничтожение человечества.
Более 350 исследователей и инженеров ИИ недавно выступили с предупреждением о том, что искусственный интеллект представляет опасность, сравнимую с рисками «пандемий и ядерной войны». В 2022 году был проведён опрос среди экспертов по ИИ, которые полагают: средняя вероятность того, что ИИ вызовет вымирание или «серьезное сокращение человеческого вида», составила 1 к 10.
Издание приводит мнение учёного Джеффри Хинтона, которого называют «крёстным отцом искусственного интеллекта». Уже сейчас исследователи полагают, что ИИ развивается в сверхразум так быстро, что может стать умнее людей всего за пять лет, а не за 30, как считалось ранее. ChatGPT на базе искусственного интеллекта и чат-бот Bing уже могут сдать экзамены на получение лицензии адвоката или медика, включая написание эссе, а в тестах IQ приблизились к уровню гениальности.
В материале отмечается, что сами создатели технологии не до конца понимают, как программы приходят к своим решениям, и ИИ, которому поставлена задача, может попытаться достичь её непредсказуемыми и деструктивными способами. Вместе с тем, «злонамеренные субъекты» могут использовать возможности искусственного интеллекта «для создания нового биологического оружия, более смертоносного, чем естественные пандемии».
По мнению Джеффри Хинтона , опасения, связанные с развитием ИИ, способного вызвать уничтожение человечества, уже не являются научной фантастикой.
Комментарии