Исследование, проведённое Уортонской школой Пенсильванского университета и Гонконгским университетом науки и технологий, показало, что на моделируемых рынках торговые роботы с искусственным интеллектом (ИИ) не конкурируют друг с другом, а вступают в сговор с целью установления цен. По мнению авторов, изучение того, как ИИ ведёт себя в рыночной среде, может помочь регулирующим органам понять пробелы в существующих правилах.
ИИ достаточно умён, и в то же время глуп для того, чтобы создавать картели по установлению цен в условиях финансового рынка, если предоставить его самому себе.
В ходе исследования авторы запустили ботов в рыночные модели – компьютерную программу, предназначенную для моделирования реальных рыночных условий и обучения искусственного интеллекта, при этом виртуальные участники рынка устанавливают цены на основе различных переменных в модели. Эти рынки могут иметь различные уровни «шума», что связано с количеством противоречивой информации и колебаниями цен в различных рыночных условиях. В то время как некоторые боты были обучены вести себя как розничные инвесторы, а другие – как хедж-фонды, во многих случаях машины занимались «повсеместным» фиксированием цен, коллективно отказываясь от агрессивной торговли – без явного указания делать это.
В одной алгоритмической модели, рассматривающей стратегию ценового стимулирования, ИИ-агенты консервативно торговали по сигналам, пока достаточно сильное колебание рынка не заставило их торговать очень агрессивно. Боты, обученные с подкреплением, были достаточно опытны, чтобы неявно понимать, что широко распространённая агрессивная торговля может привести к большей волатильности рынка.
В другой модели ИИ-роботы были чрезмерно склонны к предвзятости и были обучены усваивать, что, если какая-либо рискованная сделка приведёт к отрицательному результату, они не должны больше прибегать к этой стратегии. Боты торговали консервативно, в «догматичной» манере, даже когда более агрессивные сделки считались более прибыльными, коллективно действуя способом, который исследователи назвали «искусственной глупостью».
«В обоих случаях боты сходятся к такой схеме, при которой они не действуют агрессивно, и в долгосрочной перспективе это хорошо для них», – объясняет соавтор профессор финансов Итай Голдштейн из Уортона.
Финансовые регуляторы уже давно работают над устранением антиконкурентных практик, таких как сговор и установление цен на рынках. ИИ в рознице сейчас привлекает особое внимание законодателей. Например, сенатор Дж. Рубен Гальего назвал практику Delta по использованию ИИ для установления индивидуальных цен на авиабилеты «хищническим ценообразованием», хотя ранее авиакомпания утверждала, что её тарифы «публикуются открыто и основаны исключительно на факторах, связанных с поездкой».
«Для [Комиссии по ценным бумагам и биржам] и других регулирующих органов на финансовых рынках их главная цель – не только сохранить такого рода стабильность, но и обеспечить конкурентоспособность рынка и его эффективность», – добавляет соавтор Уинстон Вей Доу, профессор финансов Уортона.
Имея это в виду, Доу и его коллеги решили определить, как ИИ будет вести себя на финансовом рынке, поместив торговых-ботов на различные моделируемые рынки, основанные на высоком или низком уровне «шума». В конечном счёте, боты получили «сверхконкурентную прибыль», приняв коллективное и спонтанное решение избегать агрессивного поведения в торговле.
«Они просто считали такое неоптимальное поведение лучшим, – говорит Доу. – Но оказывается, что, если все машины в среде торгуют «неоптимальным» образом, на самом деле каждый может получать прибыль, потому что они не хотят использовать преимущества друг друга».
Проще говоря, боты не подвергали сомнению своё консервативное торговое поведение, потому что все они зарабатывали деньги и, следовательно, перестали конкурировать друг с другом, фактически образовав картели.
ИИ-инструменты позволяют расширить доступ потребителей к финансовым рынкам и сэкономить время и деньги инвесторов на консультационных услугах, благодаря этому такие боты становятся все более привлекательными.
Но, несмотря на все свои преимущества, торговые агенты с искусственным интеллектом не лишены рисков, считает Майкл Клементс, директор по финансовым рынкам и сообществу в Управлении по подотчётности правительства (GAO). Помимо проблем кибербезопасности и потенциально предвзятого принятия решений, эти торговые роботы могут оказывать реальное влияние на рынки.
«Многие модели искусственного интеллекта обучаются на одних и тех же данных, – говорит Клементс в интервью Fortune. – Если внутри ИИ произойдёт консолидация и останется всего несколько крупных поставщиков этих платформ, вы можете столкнуться с стадным поведением – когда большое количество физических и юридических лиц одновременно покупают или продают, что может привести к колебанию цен».
Джонатан Холл, внешний представитель Комитета по финансовой политике Банка Англии, в прошлом году предупреждал о том, что роботы с искусственным интеллектом поощряют такое «стадное поведение», которое может ослабить устойчивость рынков. Он выступал за «отключение» технологии, а также за усиление контроля со стороны человека.
По словам Доу и Голдстайна, регулирующие органы проявили интерес к их исследованию, которое, по словам авторов, помогло выявить пробелы в действующем регулировании сферы ИИ в сфере финансовых услуг. Ранее, когда регуляторы искали случаи сговора, они искали доказательства общения между отдельными людьми, полагая, что люди не могут на самом деле поддерживать поведение, связанное с установлением цен, если они не переписываются друг с другом. Но в исследовании Доу и Голдстайна у ботов не было явных форм общения.
«Если вы анализируете ситуацию, рассматривая сговор как результат коммуникации и координации, – говорит Голдстайн, – то это явно не тот метод, когда вы имеете дело с алгоритмами».
