Microsoft и OpenAI объявили о создании фонда в размере $2 млн для борьбы с растущими рисками использования ИИ и дипфейков для «обмана избирателей и подрыва демократии». «Фонд социальной устойчивости» призван повысить осведомленность уязвимых сообществ об искусственном интеллекте и его воздействии, сообщает TechCrunch.

В этом году 2 млрд человек придут на избирательные участки на выборах в 50 странах, поэтому есть опасения, что ИИ окажет влияние на избирателей, особенно в «уязвимых сообществах», которые могут быть более восприимчивы к тому, чтобы принимать увиденное за чистую монету, цитирует издание Inc. 

Развитие генеративного ИИ, в том числе таких популярных чат-ботов, как ChatGPT, привело к появлению новой серьезной угрозы, связанной с создаваемыми ИИ «глубокими подделками», предназначенными для распространения дезинформации. Эти инструменты доступны и позволяют любому желающему создавать поддельные видео, фотографии или аудиозаписи высокопоставленных политических деятелей.

Избирательная комиссия Индии призвала политические партии избегать использования дипфейков и подобной дезинформации в своих онлайн-кампаниях в преддверии выборов. Именно на этом фоне крупнейшие технологические компании, включая Microsoft и OpenAI, подписали добровольные обязательства по противодействию подобным рискам, а также заявили о планах по созданию общей структуры для борьбы с фальшивками, созданными специально для введения избирателей в заблуждение.

Компании, занимающиеся разработкой ИИ, также начали бороться с этими рисками, вводя ограничения в свое программное обеспечение. Например, Google заявила, что не позволит своему чат-боту Gemini отвечать на вопросы о выборах, а материнская компания Facebook Meta* (запрещена и признана в РФ экстремистской) также ограничивает ответы на вопросы, связанные с выборами, через своего ИИ-чатбота.

OpenAI запустила новый детектор дипфейков для исследователей дезинформации, призванный помочь выявить фальшивый контент, созданный ее собственным генератором изображений DALL-E, а также присоединилась к руководящему комитету отраслевого органа Коалиции по проверке достоверности и аутентичности контента (C2PA), членами которой уже являются Adobe, Microsoft, Google и Intel.

Фото freepik, автор: dcstudio