Илон Маск и группа экспертов по искусственному интеллекту (ИИ), включая лидеров отрасли, призывают к 6-месячной паузе в разработке более мощных систем ИИ, говоря о потенциальных рисках для общества и человечества.
Ранее в этом месяце OpenAI, поддерживаемый Microsoft, представил четвертую версию системы ИИ – GPT-4 (Generative Pre-trained Transformer), которая поразила пользователей своим широким спектром применений, от умения вести человеческую беседу до сочинения песен и обобщения длинных документов.
В письме, опубликованном некоммерческим институтом Future of Life Institute и подписанном более чем 1000 экспертами, включая Маска, содержался призыв приостановить разработку продвинутого искусственного интеллекта до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких систем.
Как говорится в письме, в последние месяцы лаборатории ИИ по всему миру включились в бесконтрольную гонку по разработке всё более и более мощных искусственных разумов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать.
«Уже сейчас ИИ становится конкурентоспособным для решения общих задач, поэтому мы должны себя спросить: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать техногенные умы, которые в конечном итоге могут превзойти нас в производительности, перехитрить, морально устареть нас и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?
Решение таких вопросов не должно отдаваться в руки технологических лидеров.
Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми», – говорится в письме.
Действительно, это как дать разрешение на создание ядерных бомб всем, у кого на это хватит средств. Только «входной билет» здесь куда ниже, а разрушительный эффект сродни термоядерному.
Среди подписантов петиции есть генеральный директор Stability AI Эмад Мостак, исследователи из принадлежащей Google компании DeepMind и тяжеловесы в области искусственного интеллекта Йошуа Бенгио, которого часто называют одним из «крестных отцов искусственного интеллекта», и Стюарт Рассел, пионер исследований в этой области.
Опасения бесконтрольного использования ИИ возникли не только у создателей, но даже у Интерпола, который в этот понедельник заявил о потенциальном злоупотреблении системой при попытках фишинга, дезинформации и киберпреступности.
Как пишет Reuters со слов Future of Life, исполнительный директор OpenAI Сэм Альтман пока не подписал письмо.
«Буква не идеальна, но дух верен: нам нужно притормозить, пока мы лучше не поймем последствия, – комментирует инициативу Гэри Маркус, профессор Нью-Йоркского университета, подписавший письмо. – Крупные игроки становятся все более скрытными в отношении того, что они делают, что затрудняет защиту общества от любого возможного ущерба».
Критики инициативы обвиняют подписантов письма в продвижении «шумихи вокруг искусственного интеллекта», утверждая, что заявления о текущем потенциале технологии были сильно преувеличены.
«Подобного рода заявления предназначены для того, чтобы поднять шумиху. Это должно заставить людей волноваться, – Йоханна Бьерклунд, исследователь искусственного интеллекта Университета Умео. – Я не думаю, что есть необходимость нажимать на ручной тормоз».
По ее словам, вместо того, чтобы приостанавливать исследования, исследователи искусственного интеллекта должны предъявлять более высокие требования к прозрачности. «Если вы проводите исследования в области искусственного интеллекта, вы должны быть очень прозрачны в том, как вы это делаете».
Прогнозы
Тем временем экономисты Goldman Sachs заявляют, что до 300 миллионов рабочих мест с полной занятостью по всему миру могут быть каким-то образом автоматизированы с помощью новейшей волны искусственного интеллекта, породившей такие платформы, как ChatGPT.
Они предсказывают, что 18% работы во всем мире может быть компьютеризировано, причем последствия этого сильнее будут ощущаться в странах с развитой экономикой, чем на развивающихся рынках.
Отчасти это связано с тем, что «белые воротнички» подвергаются большему риску, чем работники физического труда. По словам экономистов, ожидается, что больше всего пострадают административные работники и юристы, по сравнению с «незначительным эффектом», наблюдаемым в занятости, связанной с физическими нагрузками и на открытом воздухе, таких как строительные и ремонтные работы.
По данным Goldman Sachs, хотя рабочие места сильно изменятся, широкое внедрение искусственного интеллекта в конечном итоге может повысить производительность труда — и увеличить мировой ВВП на 7% ежегодно в течение 10-летнего периода.
