В сети появилось очередное открытое письмо одиннадцати нынешних и бывших сотрудников компаний, занимающихся искусственным интеллектом (ИИ), включая OpenAI (Microsoft) и DeepMind (Google/Alphabet), в котором они выразили тревогу по поводу рисков, связанных с новой технологией.
«Мы верим в потенциал искусственного интеллекта, который может принести беспрецедентную пользу человечеству. Мы также понимаем серьёзные риски, связанные с этими технологиями», — пишут они в своём письме.
Риски, которые несёт нерегулируемый ИИ, включают в себя рост существующего неравенства, дезинформацию общественности, потерю управления над ИИ, которое может привести к исчезновению человечества.
Эксперты говорят, что риски можно снизить при надлежащем контроле со стороны общественности, научного сообщества и государства, «однако у компаний, занимающихся ИИ, есть серьёзные финансовые стимулы избегать эффективного надзора». Корпоративного надзора и структур, по их мнению, явно не достаточно, чтобы это исправить.
Недавние примеры показывают, что, несмотря на «вшитую» защиту, генераторы изображений от таких компаний, как OpenAI и Microsoft позволяли создавать фейки в сфере голосования, открывая простор для манипуляции выборами.
Компании, занимающиеся ИИ, имеют «слабые обязательства» по обмену информацией с правительствами о возможностях и ограничениях своих систем, говорится в письме, добавляя, что нельзя полагаться на то, что эти фирмы поделятся этой информацией добровольно.
Одним из решений проблемы, по мнению авторов, может стать прозрачность в области безопасности, связанной с технологией ИИ.
Компании должны снять ограничения со своих сотрудников, позволив им открыто и без последствий обсуждать проблемы, связанные с рисками технологии, а также вывести эту тему из своих соглашений о конфиденциальности.
