Instagram будет помечать фотографии, созданные с помощью ИИ

Инстаграм, похоже, серьёзно работает над системой, которая сможет разоблачать фотографии созданные или модифицированные при помощи искусственного интеллекта.

За последние месяцы ажиотаж вызвали фотографии Папы Римского в кричащем белом стеганом жакете Balenciaga или, что еще хуже, фейковые фото “ареста” Дональда Трампа, в ходе которого бывший президент США якобы был избит полицией. Всё это, конечно, подделки, фейковые фотографии, но который наглядно демонстрируют мощный – а в данном случае – отрицательный потенциал искусственного интеллекта.
Именно поэтому Meta (признана экстремистской и запрещена в РФ, прим.Ред.) будет принимать меры для предотвращения распространения поддельных фотоновостей, потенциально чрезвычайно опасных. Это будет делаться с помощью специального программного обеспечения, которое будет выявлять подделки, чтобы социальные сети могли затем сообщать об этом своим пользователям.
Об этой новости, на данный момент официально не подтвержденной Meta, сообщил Алессандро Палуцци, известный тем, что уже несколько раз распространял инсайдерскую информацию о новых разработках Instagram. Через свой профиль в Twitter он опубликовал скриншот Instagram, на котором есть метка, сигнализирующая о том, что рассматриваемый контент был создан с помощью искусственного интеллекта.

#Instagram работает над маркировкой контента, созданного или измененного #ИИ , чтобы его было легче идентифицировать 👀 pic.twitter.com/ bHvvYuDpQr

Алессандро Палуцци (@alex193a) 30 июля 2023 г.

Поэтому цель состоит в том, чтобы предупредить пользователей, пытаясь гарантировать прозрачность и проверку информации, что было сложно в социальных сетях, даже до бума чат-ботов и искусственного интеллекта. В недавнем прошлом громкие имена в области высоких технологий взаимодействовали с американским правительством, подписав «Обеспечение безопасного, надежного и достоверного ИИ».