Компания OpenAI заявила, что разрабатывает новый инструмент, который сможет с высокой степенью точности определить, была ли картинка сгенерирована искусственным интеллектом.
Мира Мурати, технический директор компании, сообщила, что разработанный компанией инструмент распознавания ИИ-изображений может с точностью 99% определить, было ли изображение нарисовано с помощью искусственного интеллекта.
Мурати сказала, что инструмент распознавания изображений проходит внутреннее тестирование и станет доступен позже, но не назвала дату релиза.
В начале этого года OpenAI уже запускала инструмент для распознавания статей, написанных нейросетью. Однако в июле доступ к этому продукту был закрыт, поскольку точность была невысокой. Но в компании заявили, что продолжат дорабатывать этот инструмент, чтобы с большей точность определять контент, созданный искусственным интеллектом, например изображения, аудио и прочее.
Хотя для многих нейросети становятся полезны инструментом, они также могут быть источником проблем. Например, генерировать контент, содержащий дезинформацию. Это создает потребность в средствах идентификации подобного контента.
Кроме того, искусственный интеллект создает ещё одну проблему: наносит ущерб авторским правам других авторов, работы которых он использует для обучения. Недавно команда Firefly (принадлежит Adobe), объявила, что никогда не позволит изображениям, созданным искусственным интеллектом, нарушать авторские права других лиц. Кроме того, Adobe совместно с Microsoft и другими компаниями, объявили о разработке Content Credentials (CR), как раз для идентификации картинок, созданных ИИ.
Ранее OpenAI обновила чат-бот ChatGPT, добавив возможность поиска актуальной и достоверной информации в интернете.
