Китайские власти задержали мужчину за использование ChatGPT для написания фейковых новостей. По-видимому, это один из первых случаев ареста в стране за злоупотребление искусственным интеллектом (ИИ).
Мужчина по фамилии Хонг «использовал современные технические средства для изготовления поддельной информации и распространял ее в социальных сетях», – сообщает Министерство общественной безопасности провинции Ганьсу.
О преступлении стало известно после того, как полиция обнаружила поддельную статью о железнодорожной катастрофе, в которой погибли девять человек. Она была размещена в нескольких аккаунтах на платформе Baidu. Прежде чем её удалили администраторы, её просмотрело более 15’000 человек.
Дальнейшие расследование показало, что Хонг использовал технологию искусственного интеллекта ChatGPT, которая недоступна в Китае, но к которой можно получить доступ через VPN. С помощью ИИ он создавал вирусные фейковые новости, которые он затем распространял.
Он рассказал следователям, что друзья научили его, как зарабатывать на кликах, и с помощью ИИ он просто усовершенствовал процесс.
Власти заявили, что изготовление и широкомасштабное распространение материала означают, что Хонг несет ответственность за «тяжкое преступление», заключающееся в «разжигании вражды и провоцировании страхов» – преступление, наказуемое по меньшей мере пятью годами тюремного заключения.
В Китае это, по-видимому, первый случай задержания за ненадлежащее пользование искусственным интеллектом в стране, но не первый в мире.
В Японии в 2021 году был арестован гражданин, который с помощью ИИ удалял из порнофильмов цензурные ограничения – по местным законам половые органы всегда скрываются размытием изображения. ИИ позволял восстанавливать исходную картинку, которую он потом продавал любителям клубнички.
Это не первые и не последние случаи использования ИИ в преступных целях, поэтому многие государства стремятся как можно быстрее позаботиться о регулировании новой технологии.
