Генеративный ИИ способен совершить революцию в государственном управлении, но его влияние на демократию нужно как следует осмыслить.
Прогнозировать, как именно генеративный искусственный интеллект (ИИ) повлияет на демократию, – это крайне трудная задача, учитывая, что его потенциальные сферы применения в основном остаются неизвестными, а выглядят почти безграничными. Если узкие ИИ-инструменты, разработанные для выполнения конкретных задач, например, для приведения в порядок реестров избирателей, уже применяются в ряде стран, то последствия использования генеративного ИИ гораздо труднее предвидеть. Эта технология – не просто какое-то очередное приложение, подобное платформам социальных сетей. Это фундаментальная технология, чьё появление больше похоже на появление самого интернета. Она повлияет на демократию как напрямую, преобразуя механизмы выборов и управления, так и косвенно, поскольку она грозит изменить основы информационных экосистем, общественного доверия, а также мнений.
Что касается прямого воздействия, то здесь генеративный ИИ способен совершить революцию в процессах государственного управления, сделав возможным более точное и полное нюансов понимание потенциальных результатов принимаемых решений. Такие организации, как, например, Climate Change AI, уже используют эту технологию, изучая, как «нужно проектировать дороги, энергосети и водопроводы, чтобы учесть возросшую частоту и суровость экстремальных погодных явлений». Правоохранительные органы используют ИИ для слежки и для предсказания преступлений (predictive policing). В последнее время адвокаты и судьи начали использовать генеративный ИИ (например, ChatGPT) для помощи в составлении исков и даже судебных решений.
Тем временем усиливаются тревоги по поводу того, как именно генеративный ИИ повлияет на выборы. В 2024 году как минимум в 45 странах пройдут выборы, в том числе глобально значимые выборы состоятся в США и Евросоюзе. Если узкий ИИ уже помогает упрощать администрирование выборов, то генеративный ИИ может привести к появлению новых форм предвзятости и неопределённости. Например, крайне децентрализованная избирательная система Америки включает 10 тысяч юрисдикций. В каждом штате ведётся свой реестр избирателей, который нужно постоянно обновлять, поскольку избиратели переезжают, умирают или по иным причинам теряют право голоса. Сегодня в этой работе активно используются узкие ИИ-системы. Хотя они помогают повысить эффективность, алгоритмы, используемые для поддержания в порядке реестра избирателей, как показывают первые данные, сталкиваются с трудностями в понимании азиатских имён и могут быть в целом предвзяты к меньшинствам. Аналогичная предвзятость была обнаружена при использовании ИИ для проверки подписей, а это необходимо в случаях, когда избирательные бюллетени отправляются по почте.
Впрочем, роль ИИ может быть легко расширена за пределы простого администрирования выборов. Он может использоваться, например, для формирования правил и структуры выборов, влияя на уровень их конкурентности, на степень политической поляризации, а также на явку избирателей и стимулы кандидатов. Почти 90% избирательных округов для выборов в Конгресс США считаются «безопасными» с точки зрения партий, то есть результаты выборов здесь обычно предсказуемы: предпочтение отдаётся либо республиканцам, либо демократам. Сегодня существуют десятки программ, которые помогают законодателям начертить границы округов. Современные программы генеративного ИИ можно использовать для повышения справедливости и представительности американской политической системы, но с их помощью столь же легко можно усилить репрессивное перечерчивание границ округов в интересах тех, кто находится у власти. Это ещё больше защитит находящиеся у власти партии и кандидатов от подлинной конкуренции.
Помимо перекройки округов, генеративный ИИ может упростить проведение и других структурных реформ. Например, в европейских странах используется сочетание закрытого и преференциального голосования. Напротив, в США практикуются одномандатные округа, в которых победителю достаётся всё. Реформаторы, стремящиеся повысить политическую умеренность и снизить уровень поляризации, дискутируют по поводу достоинств таких вариантов реформ, как рейтинговое голосование, открытые праймериз, пропорциональное представительство. Однако потенциальный эффект всех этих изменений в различной политической среде и различном контексте, равно как и их общий эффект в совокупности, остаётся неясным. Генеративный ИИ мог бы пролить свет на эту сложную динамику, повысив нашу способность оценивать долгосрочные последствия электоральных реформ.
Подобные изменения могут напрямую влиять на механизмы демократии, но гораздо больше тревог вызывают косвенные последствия. ИИ, скорее всего, приведёт к глубоким переменам на рынке труда, со всеми вытекающими политическими последствиями. Он может также изменить информационные экосистемы, на которые опираются власти, кандидаты и избиратели. Генеративный ИИ может стать ценным активом для журналистов, упрощая им выполнение таких задач, как обобщение итогов слушаний в органах власти, организация материалов, поступающих из разных источников, или даже составление черновиков статей и их редактирование. И он может привести к тому, что ещё больше журналистов будут уволены.
Платформы социальных сетей могут использовать ИИ для модерации онлайн-контента, борясь с распространением предвыборной дезинформации и избавляя людей, модерирующих контент, от часто травматической задачи проверки наиболее гадкого контента в интернете. Впрочем, почти нет сомнений в том, что генеративный ИИ усугубит нынешний кризис, вызванный распространением дезинформации, поскольку он упрощает создание очень персонализированного, убедительного контента, который можно тестировать, исправлять, индивидуализировать и таргетировать на всех медиа-платформах. В апреле Республиканская партия опубликовала первую в истории рекламную атаку на президента США Джо Байдена, которая была создана искусственным интеллектом. Можно без всяких натяжек представить себе политический ландшафт, который будет наполнен дешёвой в производстве рекламой (или даже подкастами) с использованием голосов и изображений людей, пользующихся доверием. Эта реклама будет создаваться для манипулирования конкретной аудиторией с использование персональной информации о предпочтениях в интернете для выявления и эксплуатации психологических уязвимостей. Действительно ли эта технология всё полностью изменит, ещё предстоит увидеть.
Потенциал генеративного ИИ в создании убедительной дезинформации на множестве языков может стать большим подарком для зарубежных противников, которые ранее испытывали трудности из-за плохого знания языка и культурных реалий. Защитники демократии также могут пользоваться этими инструментами для создания более убедительных материалов в борьбе с авторитаризмом, занимаясь микротаргетированием наиболее уязвимых групп населения. Однако на сегодня демократические голоса находятся в значительном меньшинстве и хуже оснащены.
Впрочем, хотя ИИ и способен генерировать контент, ему по-прежнему нужны дистрибуторы этого контента (например, Facebook) для охвата аудитории. Лаборатории ИИ и платформы социальных сетей обязаны совместно разработать эффективные механизмы предотвращения распространения дезинформации.
Важно отметить, что уровень предвзятости в базовых моделях языкового обучения такой же, как и в корпусе истории человечества, на котором они тренируются. Именно поэтому в них отдаётся предпочтение культурам с более крупным корпусом письменных и оцифрованных материалов (английский и кантонский являются предпочтительными языками), а истории завоевателей представлены чрезмерно. Подобная предвзятость может оказаться крайне опасной, особенно в период, когда в странах либеральной демократии растёт политическая поляризация, а 40% американцев отвергают результаты президентских выборов 2020 года.
Сама суть демократии зависит от доверия граждан к лидерам и к институтам, которым они поручают представлять свои интересы. Однако доверие – это хрупкая вещь, его надо защищать. Генеративный ИИ способен принести большую пользу в таких сферах, как медицина, промышленность, образование, но его влияние на демократию нужно как следует осмыслить. В противном случае ИИ ослабит, а не укрепит народное правление.
Келли Борн. ipg-journal.io