Пионер искусственного интеллекта (ИИ) Джеффри Хинтон говорит, что уволился из Google, чтобы свободно говорить об опасностях технологии, после того как понял, что компьютеры могут стать умнее людей гораздо раньше, чем ожидали он и другие эксперты.
«Я ушел, чтобы поговорить об опасностях искусственного интеллекта, не задумываясь о том, как это повлияет на Google», – написал Джеффри Хинтон в Twitter.
В интервью New York Times Хинтон сказал, что он обеспокоен способностью искусственного интеллекта создавать убедительные подложные изображения и тексты, создавая мир, в котором люди «больше не смогут знать, что является правдой».
«Трудно понять, как вы можете помешать злодеям использовать это для плохих дел», – говорит он.
«Идея того, что ИИ действительно может стать умнее людей – в это верили немногие, – рассказывает он New York Times. – Отнюдь, большинство людей думали, что не так. И я думал, что это далеко не так. Я думал, что до этого еще 30-50 лет, а то и больше. Очевидно, я больше так не думаю».
«Он (ИИ) способен автоматически генерировать большое количество текста, так что вы можете получить множество очень эффективных спам-ботов. Это позволит авторитарным лидерам манипулировать своими избирателями и тому подобное», – поясняет он.
Например, недавно в сети появилось изображение Папы Римского Франциска в пуховике Balenciaga (см. фото выше), которое сгенерировал ИИ Midjourney. Фотореалистичность изображения говорит, что всё что вы видите сейчас в интернете – фото, видео, текст – может быть фейком, затраты на производство которого минимальны.
Кроме того, Хинтон также обеспокоен «экзистенциальным риском того, что произойдет, когда эти существа станут более разумными, чем мы».
Хинтон замечает, что уволился не для того, чтобы критиковать своего бывшего работодателя. Google, по его словам, «действовал очень ответственно».
Ведущий научный сотрудник Google Джефф Дин заявил The Times: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации».
Тем не менее Хинтон не одинок в своей обеспокоенности. В прошлом месяце Илон Маск заявил, что поссорился с соучредителем Google Ларри Пейджем, потому что тот «недостаточно серьезно относился к безопасности искусственного интеллекта». Маск сказал Fox News, что Пейдж хочет «цифрового сверхразума, по сути, цифрового бога, если хотите, как можно скорее».
Глава Квебекского института искусственного интеллекта Валери Пизано заявила, что небрежный подход к безопасности ИИ недопустим. «Технология внедрена, и по мере того, как система взаимодействует с человеком, ее разработчики ждут, чтобы увидеть, что произойдет, и внести коррективы на основе этого», — говорит она, вопрошая – разве мы так поступаем в других отраслях: «Мы разберемся с этим позже».
«То, что так много экспертов высказывают свои опасения по поводу безопасности искусственного интеллекта, а некоторые it-ученые заходят так далеко, что сожалеют о некоторых своих работах, должно встревожить политиков, – говорит доктор Карисса Велиз, специалист по этике ИИ из Оксфордского университета. – Настало время регулировать искусственный интеллект».
