Новости В Microsoft назвали дипфейки наибольшей проблемой ИИ

Биржи на которых я торгую:

• Binance
• Gate
• Kucoin

Президент Microsoft Брэд Смит выразил обеспокоенность широким распространением реалистично выглядящего, но ложного контента. Об этом пишет The Guardian.

Во время выступлении в Вашингтоне, посвященного вопросам регулирования ИИ, Смит призвал принять меры для распознавания дипфейков.

«Нам придется решить проблемы, связанные с дипфейками. Нам придется обратить особое внимание на то, что большинство иностранных операций по кибервлиянию уже осуществляются российским правительством, китайцами, иранцами», — сказал он.
​

Смит считает, что уже сейчас необходимо предпринять шаги для защиты от изменения легитимного контента с помощью ИИ для обмана людей. Он также призвал к лицензированию наиболее важных форм искусственного интеллекта с «обязательствами по защите безопасности».

«Нам понадобится новое поколение экспортного контроля […] для гарантии, что наши модели не украдут и не используют в нарушение требований», — сказал Смит.
​

Синхронность с OpenAI


На прошлой неделе глава OpenAI Сэм Альтман выступил перед Конгрессом США, где призвал к регулированию ИИ. CEO компании также говорил о возможном лицензировании наиболее важных технологий, чтобы разработчики соответствовали определенным критериям.

После этого Альтман отправился в Европу, где встретился с лидерами Великобритании, Франции, Германии и других стран. Там он заявил, что OpenAI придется уйти с рынка ЕС, если компания не сможет соответствовать «жестким нормам» закона об ИИ.

Многие эксперты и лидеры мнений в сфере искусственного интеллекта поддерживают намерения урегулировать технологию. В марте они подписали открытое письмо с призывом приостановить эксперименты с большими языковыми моделями.

Однако инициатива столкнулась с критикой. Основатель Microsoft Билл Гейтс считает, что пауза не поможет «усмирить» ИИ.

По словам миллиардера, в глобальном масштабе замедлять искусственный интеллект становится все труднее. Вместо этого мир должен сосредоточиться на том, чтобы использовать технологию во благо общества.

Альтман поддержал лишь некоторые тезисы открытого письма.

Усилия Microsoft по борьбе с дипфейками


На конференции Build 2023 Microsoft представила несколько сервисов для борьбы с дипфейками. В ближайшие месяцы компания запустит спецификацию C2PA для проверки изображения и видео на предмет применения Bing Image Creator или Designer.

Также Microsoft представила инструмент модерации контента Azure AI Content Safety. Сервис обучен обнаруживать токсичные картинки и тексты, сгенерированные как людьми, так и искусственным интеллектом.

Модели работают на нескольких языках. Они присваивают контенту уровень риска и уведомляют модератора о необходимости принятия мер.

Напомним, в мае экс-глава Google Эрик Шмидт назвал ИИ «экзистенциальной угрозой», из-за которой многие люди могут «пострадать или погибнуть».

В том же месяце миллиардер и инвестор Уоррен Баффетт сравнил искусственный интеллект с созданием атомной бомбы и выразил тревогу по поводу быстрого развития технологий.

Новость В Microsoft назвали дипфейки наибольшей проблемой ИИ на сайте CoinProject.info.