Интервью со специалистом по этике ИИ доктором Бенджамином Ланге (Benjamin Lange)
EUvsDisinfo: Вы специалист по этике и, помимо прочего, работаете с искусственным интеллектом и дезинформацией. Что это означает на практике? Чем занимается специалист по этике, работающий с такими темами?
Д-р Бенджамин Ланге: У меня как специалиста по этике есть два направления работы. Во-первых, это академические вопросы. Как философ я занимаюсь исследованиями в сфере дезинформации и искусственного интеллекта. Например, я исследую различные этические риски, связанные с тем вредом, который может нанести борьба с дезинформацией. Таким образом, хотя, конечно, все согласны с тем, что дезинформацию, особенно на более высоком уровне государственных деятелей, необходимо сдерживать и подавлять, с точки зрения этики этого можно добиться разными методами.
Также я занимаюсь исследованиям того, как нам разобраться, что такое дезинформация, особенно с прицелом на использование механизмов обнаружения. Здесь полезно использовать философский инструмент концептуального анализа, который поможет разобраться в этой проблеме.
Это более прикладное направление. Как консультант по вопросам этики я помогал организациям, занимающихся разоблачениями, противодействием и борьбой с дезинформацией, использовать для этого методы, основанные на надежных этических принципах, которые помогают аналитикам эффективно работать в серых зонах, где приходится рассматривать множество критических суждений. Сюда входят разработка системы и наборов инструментов для обсуждения и принятия решений в сложных ситуациях, помощь в концептуализации дезинформации и того, как она встроена в цепочки обнаружения, а также разработка процесса, который позволяет нам точнее оценить соразмерность методик, используемых для бороться с дезинформацией.
EUvsDisinfo: В ближайшие годы искусственный интеллект будет оказывать разнообразное влияние на общество. Мы уже сталкиваемся с проявлениями такого влияния, например генераторы текста или изображений на основе ИИ, которые используются в творческих профессиях и других сферах, хотя о многих видах такого влияния, особенно более фундаментальных, мы можем только догадываться. В EUvsDisinfo нас больше всего интересует взаимодействие с ИИ и информационное манипулирование. Не могли бы вы рассказать нашим читателям о новых взглядах в связи с этими вопросами? О чем нам следует беспокоиться? На что обращать внимание?
БЛ: Я думаю, что, как вы уже сказали, в этом году все мы начали задумываться о влиянии генеративного ИИ, который занимается преобразованием текста в текст или текста в изображения. Это все еще развивающаяся и активно изменяющаяся индустрия, хотя главное беспокойство в этом случае, безусловно, вызывает катализирующее воздействие, которое генеративный ИИ может оказать на массовое распространение фейков и дезинформации — в форме как изображений, так и текстов.
Таким образом, нам, безусловно, необходимо уделить особое внимание этой области. В частности, я бы посоветовал всем лучше разобраться в работе некоторых моделей, например, как они генерируют текст или изображения и что делать, чтобы научиться лучше определять генеративные результаты ИИ. Кое-что может нам в этом помочь, например синтаксические шаблоны текста (то есть допустимый порядок слов в предложениях, сами структуры предложений) или определенные элементы изображений, которые ИИ еще не так хорошо создает (например, руки, логические пропорции, относительные пропорции некоторых элементов, проработка фона). Это также означает, что устоявшиеся методы проверки фактов, например проверка исходных материалов, приобретают особую значимость.
Но есть и хорошие новости: по мере роста наших технических возможностей растут и возможности ИИ в сфере обнаружения дезинформации, например обнаружения дипфейков, хотя присутствуют и некоторые тревожные признаки того, что текущие модели не справляются с ложной информацией, генерируемой ИИ. Но, в конечном счете, скоро ли нас на данном этапе захлестнет волна дезинформации, генерируемой ИИ, еще не ясно.
EUvsDisinfo: По Вашему мнению, какие существуют способы непосредственного смягчения угроз, создаваемых ИИ, для нашей информационной среды? Кроме того, видите ли Вы какие-то непростые, но важные решения, которые, несмотря на возможные затраты времени и денег, могут окупиться в долгосрочной перспективе?
БЛ: Это часть общей дискуссии об ответственном управлении ИИ, но ведь нам нужен всеобъемлющий ответ, подготовленный всеми соответствующими заинтересованными сторонами, включая политические круги, представителей промышленности, исследователей и общество в целом. Поскольку мы обеспокоены угрозами со стороны ИИ, в частности, в информационной среде, необходимо обеспечить наличие соответствующих барьеров для таких технологий с помощью как саморегулирования, так и введения жестких законов. Сюда могут относиться требование добавить технические барьеры, например цифровые водяные знаки, в интерфейсы прикладного программирования (API), которые используются в программном обеспечении на основе ИИ, чтобы снизить риск злоупотреблений и информационного манипулирования.
Кроме того, если речь идет о непростом решении для достижения исключительно сложной, но важной цели, мы могли бы вместо активного реагирования и уменьшения рисков, что по-прежнему необходимо, сосредоточить больше усилий на образовательных мероприятиях для ознакомления широкой общественности с ИИ и его связью с нашими привычками к использованию и созданию информации, начиная со школы. Развитие устойчивого критического подхода к большим массивам информации, который позволяет ориентироваться в сложившейся информационной среде в эпоху ИИ, кажется мне гораздо более плодотворным, чем попытка полагаться исключительно на ответные меры.
EUvsDisinfo: Какие положительные примеры использования ИИ в борьбе с информационным манипулированием Вы могли бы привести?
БЛ: Я думаю, что положительные примеры касаются обнаружения простых случаев манипулирования информацией. Хотя, как я уже упоминал, недавние исследования показали, что наличие генеративного ИИ усложняет задачу автоматического обнаружения. Сюда относятся обнаружение поддельных учетных записей или ботов, которые массово распространяют определенные истории, или автоматическое обнаружение видео, текстов и изображений, которые ранее были помечены как содержащие ложную информацию и дезинформацию и которые были лишь немного изменены. Например, в некоторых случаях можно успешно обнаруживать небольшие синтаксические изменения в шаблоне текста, который ранее был отмечен человеком-аналитиком как дезинформация. Подобные методы обнаружения существуют для дипфейков и дезинформации на основе изображений, которые часто являются манипулированием информацией — подумайте о влиянии подделанной инфографики, фотографий и спутниковых снимков. Их вариации и модификации в какой-то мере также могут быть обнаружены автоматически.
