Лідируючі компанії в галузі штучного інтелекту планують укласти угоду, яка зобов’язує розробити технологію для ідентифікації, маркування та контролю зображень, відео та аудіозаписів, створених ШІ з метою вводити в оману виборців напередодні ключових виборів у різних країнах цього року.

Згідно з копією, отриманою The Washington Post, ця угода, розроблена компаніями Google, Microsoft, Meta, OpenAI, Adobe та TikTok, не запроваджує заборону на фейковий політичний ШІ-контент. Twitter (X) не приєднається до цієї угоди, проте вона буде відкрита для підписання іншими зацікавленими компаніями.

Цей документ є маніфестом, в якому заявляється, що створений ШІ-контент, який значною мірою виробляється з використанням інструментів компаній, що беруть участь і розміщується на їх платформах, становить реальну загрозу для чесних виборів. У ньому описуються кроки, спрямовані на зниження цього ризику, такі як маркування потенційного ШІ змісту та інформування громадськості про небезпеку ШІ.

“Умисне та приховане створення та поширення оманливого ШІ-контенту на тему виборів може вводити громадськість в оману способом, який підриває цілісність виборчих процесів”, – наголошується в угоді.

Створені штучним інтелектом зображення чи дипфейки існують уже кілька років. Проте за останній рік їхня якість помітно покращала – деякі підроблені відео, зображення та аудіозаписи важко відрізнити від реальних. Інструменти для створення такого контенту тепер широко доступні, що спрощує їх виробництво.

Штучним інтелектом створений контент вже з’являвся під час виборчих кампаній у всьому світі. Наприклад, рекламна кампанія на підтримку колишнього кандидата у президенти США від Республіканської партії Рона Десантіса використала штучний інтелект для імітації голосу колишнього президента Дональда Трампа. У Пакистані кандидат у президенти Імран Хан використав штучний інтелект для створення виступів із в’язниці. У січні автоматичний дзвінок, нібито від президента Байдена, закликав людей не голосувати на праймеріз у Нью-Гемпширі.

Технологічні компанії зазнають тиску з боку регуляторів, дослідників штучного інтелекту та політичних активістів з вимогою стримувати поширення фейкового виборчого контенту. Нова угода схожа на добровільне зобов’язання компаній, укладене в липні після зустрічі в Білому домі, де вони зобов’язалися намагатися ідентифікувати та помічати підроблений контент ШІ на своїх сайтах. У рамках нової угоди компанії також зобов’язуються навчати користувачів обманного вмісту, створеного з використанням штучного інтелекту, і бути прозорими у своїх зусиллях виявлення дипфейків.

Технологічні компанії вже мають свої власні норми щодо політичного контенту, створеного ШІ. Наприклад, TikTok не дозволяє фальшивий ШІ-контент за участю публічних діячів, якщо він використовується для політичної чи комерційної підтримки. Meta, яка володіє Facebook та Instagram, вимагає від політичних рекламодавців повідомляти, чи використовують вони ШІ у своїй рекламі на їхніх платформах. YouTube вимагає від творців позначати контент, створений штучним інтелектом, який має реалістичний вигляд.

Проте спроби побудувати широку систему, у якій зміст штучного інтелекту ідентифікується і відбивається у соціальних мережах, доки не принесли значних результатів. Google продемонстрував технологію водяних знаків, але не вимагає від своїх клієнтів її використання. Компанія Adobe, що володіє Photoshop, акцентує увагу на стримуванні ШІ-контенту, але нещодавно стало відомо, що їхня база стокових фотографій містила фейкові зображення війни в Газі.

Джерело: Washingtonpost

У разі виникнення додаткових питань, будь ласка, звертайтесь за електронною адресою sales@softico.ua або за телефоном +380 (44) 383 4410.