По словам Гейтса, одного саморегулирования ИИ-компаний недостаточно для обеспечения безопасности технологии. Он призвал власти США принять соответствующее законодательство и участвовать в контроле, а также мониторинге ИИ
Развитие искусственного интеллекта (ИИ) может привести к событиям, которые повлекут за собой гибель миллиарда человек, заявил основатель Microsoft Билл Гейтс в интервью NBC News.
«ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые, как вы знаете, приводят к миллиарду смертей. Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ», — сказал он.
По словам Гейтса, саморегулирования компаний, занимающихся ИИ, недостаточно, поэтому правительства должны участвовать в контроле за развитием технологии.
Он призвал американские власти принять соответствующее законодательство и подключить правоохранительные органы и политиков к дискуссиям о гарантиях и мониторингу ИИ. «И это должно быть обязательным. И это будет небольшими накладными расходами для отрасли, но не резким замедлением того, что они делают», — добавил Гейтс.
На фоне быстрого развития ИИ в технологической отрасли продолжаются дискуссии о рисках, связанных с возможной потерей контроля над такими системами. О необходимости более осторожного подхода предупреждали руководители и исследователи ведущих ИИ-компаний, в том числе Anthropic и OpenAI.
Так, глава Anthropic Дарио Амодеи призвал ранее замедлить разработку ИИ на фоне инцидентов с автономными агентами. Он отмечал, что такие системы уже способны действовать без прямых указаний разработчиков, и предупреждал: при сохранении нынешних темпов в течение 6–12 месяцев они потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Идею более осторожного развития поддержали глава OpenAI Сэм Альтман и Илон Маск. Альтман выступил за привлечение независимых экспертов к оценке безопасности ИИ-систем. Маск, в свою очередь, напомнил о своих прежних предупреждениях об угрозах искусственного интеллекта и сравнивал его потенциальную опасность с ядерным оружием.
Отдельные специалисты также призывали ограничить темпы разработки. Бывший исследователь Anthropic Джейкоб Коксон, покинувший индустрию из-за опасений по поводу развития самообучающихся систем, допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль заявлял, что даже вероятность в 5–10% выхода ИИ из-под контроля человека является тревожной. При этом он подчеркнул, что не считает такой сценарий вероятным.