Оскільки експерти попереджають, що зображення, аудіо та відео, згенеровані штучним інтелектом, можуть вплинути на осінні вибори президента США, OpenAI випускає інструмент, призначений для виявлення контенту, створеного його власним популярним генератором зображень DALL-E. Про це повідомляє The New York Times.
7 травня 2024, 18:50
OpenAI випускає детектор діпфейків
►Читайте «Мінфін» в Instagram: головні новини про інвестиції та фінанси
За словами OpenAI, цей інструмент є лише невеликою частиною того, що буде потрібно для боротьби з діпфейками в найближчі місяці та роки.
Компанія поділиться своїм новим детектором діпфейків з невеликою групою дослідників дезінформації, щоб вони могли протестувати інструмент у реальних ситуаціях і допомогти визначити шляхи його вдосконалення.
«Це поштовх до нових досліджень», — сказала Сандхіні Агарвал, дослідниця OpenAI, яка займається безпекою та політикою.
В OpenAI заявили, що детектор може правильно ідентифікувати 98,8% зображень, створених DALL-E 3, останньою версією генератора зображень.
Але компанія зазначила, що її інструмент не призначений для виявлення зображень, створених іншими популярними генераторами зображень, такими як Midjourney і Stability.
OpenAI також повідомила, що розробляє водяні знаки для створюваних штучним інтелектом звуків, щоб їх можна було миттєво легко ідентифікувати. Компанія сподівається, що ці водяні знаки буде важко видалити.
Джерело:
Мінфін
Коментарі