Інтерв’ю з фахівцем з етики штучного інтелекту д-м Бенджаміном Лангом
EUvsDisinfo: Ви фахівець з етики і, з-поміж іншого, працюєте над штучним інтелектом і дезінформацією. Що це означає на практиці? Що входить в обов’язки фахівця з етики, який працює над цими темами?
Д-р Бенджамін Ланг: У мене є дві різні ролі як у фахівця з етики. По-перше, я виконую академічну роль. Мої дослідження як філософа зосереджуються на дезінформації та ШІ. Наприклад, я розглядаю різні етичні ризики шкоди, якої може завдати боротьба з дезінформацією. Отже, хоча, звісно, усі погоджуються, що дезінформацію, особливо на більш широкому рівні державних діячів, потрібно стримувати та пригамовувати, існують кращі й гірші способи вирішити це питання з погляду етики.
В іншому напрямі — як дослідник — я розглядаю, як ми можемо найкраще концептуалізувати, що таке дезінформація, особливо з огляду на запровадження наших механізмів виявлення. Тут може виявитися досить корисним філософський інструмент концептуального аналізу, який допоможе нам зрозуміти проблему.
Моя друга роль більш прикладна. Я як консультант із питань етики допомагаю організаціям, що займаються спростуванням, стримуванням або боротьбою з дезінформацією, робити це в спосіб, який ґрунтується на раціональних етичних принципах і може ефективно допомогти аналітикам у роботі з випадками розмитих і нечітких меж, де необхідно часто застосувати критичні судження. Сюди може входити розробка систем і наборів інструментів для обговорення та прийняття рішень у складних випадках, надання допомоги в концептуалізації дезінформації і того, як вона вбудовується в ланцюжки виявлення, або розробка процесу, який дасть нам змогу краще оцінити пропорційність заходів, що застосовуються для боротьби з дезінформацією.
EUvsDisinfo: Найближчими роками ШІ по-різному впливатиме на наші суспільства. Ми вже відчуваємо деякі з цих впливів, наприклад генератори тексту чи зображень на базі ШІ, які використовуються у творчій роботі та в інших галузях, але про багато які з них, особливо більш фундаментальні, ми можемо лише здогадуватися. Тут, в EUvsDisinfo, ми здебільшого цікавимося взаємодією ШІ та інформаційним маніпулюванням. Чи не могли б Ви розповісти нашим читачам про останні тенденції в цьому напрямі? Про що нам слід хвилюватися? На що нам слід звернути увагу?
БЛ: Я думаю, що, як ви згадали, те, про що всі думали цього року, — це вплив генеративного штучного інтелекту — чи то у формі генераторів для перетворення тексту в текст, чи тексту — у зображення. Це досі нова сфера з багатьма рухомими фрагментами, але головне занепокоєння тут, безумовно, викликає каталітичний ефект, який генеративний ШІ може мати на масове розповсюдження хибної інформації та дезінформації, у формі чи то зображення, чи то тексту.
Отже, це, безумовно, те питання, на якому варто зосередитись. Зокрема, я б закликав усіх звернути увагу на краще розуміння роботи деяких із цих моделей, наприклад на те, як вони генерують текст або зображення та як можна краще навчитися виявляти результати роботи генеративного ШІ. Дещо нам може в цьому допомогти, як-от синтаксичні шаблони тексту (тобто прийнятний порядок слів у реченнях, самі структури речень) або певні елементи зображень, які ШІ поки що не досить добре вміє створювати (наприклад, руки, логічні пропорції, відносні пропорції між деякими елементами, деталі фону). Крім того, це означає, що підтверджені методи перевірки фактів, як-от перевірка вихідних матеріалів, набувають ще більшого значення.
Є й хороші новини: зі зростанням наших технічних можливостей підвищуються й наші можливості у виявленні дезінформації, пов’язані зі штучним інтелектом, наприклад виявлення діпфейків. Хоча існують і тривожні докази того, що поточним моделям важко протистояти мізінформації, створеній ШІ. Але чи скоро ми зрештою потонемо на цьому етапі в дезінформації, створеній генеративним ШІ, нам ще належить з’ясувати.
EUvsDisinfo: На Вашу думку, які є певні швидкі й ефективні способи пом’якшити загрози, створені ШІ, для нашого інформаційного середовища? Крім того, чи бачите Ви якісь непрості, але важливі рішення, які, можливо, вимагали би більше часу та грошей для реалізації, але могли б окупитися у довгостроковій перспективі?
БЛ: Це стосується ширшої дискусії щодо відповідального управління ШІ, але нам потрібна всеосяжна відповідь, розроблена спільно всіма відповідними зацікавленими сторонами, зокрема політиками, представниками промисловості, дослідниками й суспільством у широкому розумінні. У міру нашої стурбованості загрозами, створеними ШІ, зокрема для нашого інформаційного середовища, з метою використання цих технологій ми повинні забезпечити наявність відповідних захисних бар’єрів як за допомогою саморегулювання, так і обов’язкових до застосування законодавчих норм. Це може охоплювати вимогу додавання технічних бар’єрів, наприклад цифрових водяних знаків, до інтерфейсів прикладного програмування (Application Programming Interfaces, API), які використовуються в програмному забезпеченні на основі ШІ, що зменшує ризик зловживання та маніпулювання інформацією.
Крім того, якщо йдеться про непрості, але важливі рішення, ми могли б замість активного реагування на загрози, яке досі лишається необхідним, значно активізувати наші освітні зусилля для широкої громадськості щодо ШІ та його зв’язку з нашими звичками споживання та створення інформації, починаючи зі шкіл. Розвивати стійкість і критичну проникливість у великому масштабі, щоб мати можливість орієнтуватися в нашому інформаційному середовищі в епоху ШІ, здається мені набагато більш плідним, ніж цілком покладатися на заходи протидії.
EUvsDisinfo: Чи існують якісь можливі випадки позитивного використання ШІ в боротьбі з інформаційним маніпулюванням?
БЛ: Я вважаю, що випадки позитивного використання стосуються виявлення досить простих випадків маніпулювання інформацією. Хоча, як я вже згадував, нещодавні дослідження вказують на те, що генеративний ШІ, безсумнівно, ускладнює роботу цих зусиль з автоматизованого виявлення. Це може включати виявлення підроблених облікових записів або облікових записів ботів, які масово поширюють певні сюжети, чи автоматичне виявлення відео, текстів, зображень, які раніше були позначені як такі, що містять дезінформацію, і були змінені лише незначною мірою. Наприклад, у деяких випадках досі можна успішно виявляти незначні синтаксичні зміни, зроблені в шаблоні тексту, які аналітик-людина раніше позначив як дезінформацію. Подібні методи існують для діпфейків або дезінформації на основі зображень, що становить більшу кількість випадків маніпулювання інформацією — згадайте про фальсифіковану інфографіку, фотографії, супутникові зображення. Їхні варіації та модифікації також можна певною мірою виявляти автоматично.
