Новые редакторы электронной почты, использующие искусственный интеллект (ИИ), обещают упростить написание писем нашим коллегам, друзьям и домашним, но не рискуем ли мы при этом что-то потерять?
Вы начинаете отвечать на письмо в Google Mail, и кажется, что он читает ваши мысли – он предлагает вам продолжение ответа, напечатанного серыми буквами. Жмёте клавишу «Tab», и он само дописывается. Это работает система Smart Compose, построенная на ИИ.
И даже если вы владеете методом 10-пальцевой слепой печати, это сильно экономит ваше время. Но почему вы при этом испытываете смешанные чувства? Польза есть. В чем дело? Вопросы, начинают появляться вопросы. Не лишает ли ИИ вас индивидуальности, креативности? Не перестает ли работать ваша голова? Не делает ли он вам медвежью услугу?
«Предугадывание имеет фундаментальное значение для человеческого восприятия и взаимодействия с окружающим миром, — говорит BBC Мария Геффен из Университета Пенсильвании. – Наш мозг постоянно делает прогнозы. Например, когда мы слушаем кого-то в шумном помещении, мы делаем прогнозы, какая фраза произнесена, даже если мы слышали только отрывки. То же самое происходит и при более сложных задачах, включая создание фразы».
Пишем ли рукой или печатаем на компьютере – в нас задействуется множество когнитивных процессов – долговременная память, семантическая система рабочей памяти и планирования. Если же мы подменяем их компьютером, считает Геффен, то это будет влиять на то, как работают наши мозги.
«Сейчас мы проводим эксперименты, в которых отслеживаем активность нейронов, отвечающих за звуки, и обнаруживаем, что ото дня ко дню они проявляют разные шаблоны активности». Поэтому, говорит Мария, встает важный вопрос, как помощь компьютера влияет на наше взаимодействие с миром?
По оценке экспертов, сейчас ежедневно отправляется около 281 млрд. писем, это по 74 письма на каждого пользователя. Поэтому не удивительно, что нам требуется небольшая помощь, чтобы обработать их.
Smart Compose, его предыдущая версия Smart Reply, предлагавшая несколько вариантов, система автоматического заполнения форм, подсказка в поиске – всё это варианты ИИ. И хотя пока рано ждать системы, которая по первой букве письма напишет остальные 2 страницы текста, тем не менее даже тогда, когда появилась системы автозамены слов в Word, уже тогда стали возникать вопросы о побочных эффектах.
Одно годовое исследование показало, что дети средней школы, использовавшие подсказку текста в мобильных телефонах, делали больше орфографических ошибок, чем те, кто этой функцией не пользовался. Среди студентов эффект был обратный.
Клэр Вуд, психолог Ноттингемского университета, говорит, что взрослые обычно плохо реагируют на грамматические ошибки в тексте, поэтому автокорректор несет положительную роль в коммуникациях. Однако она предостерегает, что ИИ опирается на наше прошлое, поэтому может посчитать ошибку не ошибкой и добавить её нам в письмо.
И это цветочки. Ученые из Гарвардского университета говорят о том, что, когда ИИ использует большие данные – от многих пользователей, то он может стать источником различных предрассудков и предубеждений, усиливая их в обществе.
Считает компьютер положительные отзывы о ресторане и будет предлагать позитивно окрашенные фразы, и наоборот. Такие эксперименты проводились и подтверждали такое влияние на человека.
Кен Арнольд из Гарвардской школы инженерных и прикладных наук, проводивший исследования, говорит: «Хорошо думать о том, как системы будущего помогут людям лучше писать, но нам также нужна прозрачность и контролируемость для защиты от манипулирования нами».
Ладно взрослые, а дети? Сейчас многие из них с раннего возраста имеют телефон и активно пользуются мессенджерами и соцсетями. И безусловно система предугадывания ИИ действует и на них.
В этом отношении весьма показательным является поведение родителей из Силиконовой Долины – того места, где разрабатываются эти технологии. Они не хотят, чтобы их дети часто пользовались гаджетами. В привилегированной Уолдорфской школе, в которую ходят дети руководителей hi-tech компаний, избегают пользоваться компьютерами в младших классах, ссылаясь на то, что это вредит навыкам письма.
Чрезмерная опора на «компьютерный костыль» может повлиять на словарный запас ребенка, который имеет прямую корреляцию с успешностью в дальнейшей жизни.
«Замещая человеческую функцию языкового прогнозирования, ИИ снижает планку и предлагает нам усредненный текст, уменьшая вариативность», — говорит Геффен, предупреждая, что такая речь будет меньше походить на человеческую.
