Компанія OpenAI, що створила популярний чат-бот ChatGPT, оголосила про запуск реклами у своїй системі. Перші тести проходять у США серед користувачів безкоштовних та пільгових підписок. Рекламні блоки, за словами представників компанії, будуть чітко позначені та не вплинуть на відповіді нейромережі.
“Користувачі довіряють ChatGPT надто особисту інформацію”
У колонці для The New York Times Хітціг нагадала, що за роки існування ChatGPT користувачі створили величезний “архів людської відкритості”. Багато хто довіряв чат-боту особисті переживання, розповідав про страхи, стосунки та проблеми.Вважаючи, що система не має прихованих мотивів.
«Якщо реклама почне використовувати ці дані, вона зможе впливати на людей так, як ми не зможемо ні зрозуміти, ні запобігти», — наголосила дослідниця.
Хітциг визнає, що реклама сама по собі не є аморальним. За її словами, обслуговування штучного інтелекту дороге, і компанії справді потрібні нові джерела прибутку. Але вона впевнена: монетизація через персональні дані – небезпечний шлях.
Побоювання: OpenAI може піти шляхом Facebook
Хітциг нагадала, що схожі обіцянки щодо захисту даних давав і Facebook у перші роки роботи. Згодом компанія поступово послабила політику конфіденційності та почала використовувати особисті дані користувачів для рекламної реклами.
«Я впевнена, що перша версія реклами OpenAI буде чесною. Але пізніше, коли бізнес виросте, з'явиться спокуса обійти власні правила»– вважає Хітціг. На її думку компанія ризикує підмінити принципи прозорості механізмами комерційного тиску.
Які є альтернативи
Дослідниця переконана, що штучний інтелект можна фінансувати інакше, не жертвуючи приватністю користувачів. Вона пропонує розробити незалежні системи контролю та нові бізнес-моделіу яких інтереси людей будуть захищені.
Можливі рішення, на думку Хітціг:
- перехресне субсидування за рахунок корпоративних клієнтів;
- створення незалежних порад, які контролюють рекламу та використання даних;
- використання трастової моделі, коли дані користувачів управляються через довірені структури;
- надання суспільству права голосу у питаннях, що стосуються етики та прозорості ІІ.
На думку Хітціг, такий підхід допоможе зберегти баланс між розвитком технологій та захистом особистої інформації.
Що говорить OpenAI
Керівництво OpenAI запевняє, що реклама ChatGPT не змінить характер роботи робота. У компанії наголошують: оголошення будуть чітко відокремлені від відповідей нейромережіА алгоритми не навчатимуться на даних, пов'язаних з рекламним контентом.
Проте критики сумніваються, що ці засади збережуться надовго. У міру зростання аудиторії ChatGPT рекламний ринок може виявитися надто привабливим, щоб відмовитися від нього.
Чому це важливо
Реклама може допомогти зробити ChatGPT доступним для більшої кількості користувачів. Однак виникає ризик, що дані, якими люди діляться з ІІ, почнуть використовуватися для маніпуляції споживчою поведінкою.
Експерти нагадують: сучасні алгоритми здатні аналізувати емоції та звички людей. Отже, реклама, вбудована в ІІ, може впливати на користувачів точніше, ніж традиційні оголошення.
Таким чином, питання прозорості та довіри стає ключовим для майбутнього всієї галузі штучного інтелекту.
