«Крестный отец» искусственного интеллекта предупредил об опасности технологии
«Крестный отец» ИИ Джеффри Хинтон, британско-канадский ученый в области когнитивной психологии и информатики, предупредил о «кошмарном сценарии», в котором технология, став умнее людей, начнет завоевывать власть в мире. Ранее Хинтон уволился из Google.
Разработчик нейросетей, работавший в Google, Джеффри Хинтон предупредил о потенциальной угрозе искусственного интеллекта, сообщает BBC. Он описал сценарий, при котором чат-боты, такие как ChatGPT, начнут стремиться к власти.
В интервью BBC Хинтон, днем ранее объявивший New York Times об отставке из Google, сказал, что потенциальные угрозы, исходящие от чат-ботов ИИ, «довольно страшные», поскольку вскоре они смогут стать интеллектуальнее людей. Хинтон отметил, что трудно понять, как предотвратить использование ИИ в недобросовестных целях, и назвал попадание технологии в чужие руки «кошмарным сценарием».
«Мы видим, что такие существа, как GPT-4, затмевают человека по объему общих знаний, которыми они обладают, и затмевают намного сильнее», — добавил он.
Исследования Хинтона в области глубокого обучения и нейронных сетей — математических моделей, имитирующих человеческий мозг, — помогли заложить основу для развития искусственного интеллекта. Благодаря этому он получил прозвище «крестный отец» ИИ. После объявления о своем уходе из Google Хинтон выразил обеспокоенность по поводу развития ИИ.
Хинтон не одинок в своих опасениях. В марте технологи и исследователи, включая Илона Маска и соучредителя Apple Стива Возняка, подписали петицию, призывающую отложить разработку передовых систем ИИ на шесть месяцев. По их мнению, ИИ может представлять серьезную опасность для общества и человечества.
