AI срещу автентичност: Нарастващата нужда от произход в цифровото съдържание

Как бизнесът реагира на възхода на AI съдържание

Поради тези проблеми големите технологични компании работят по начини за подобряване на автентичността и произхода на медиите. Като част от годишната си конференция за изграждане, Microsoft обяви, че нейните инструменти за създаване на изображения и дизайнери на Bing вече ще имат нови функции за медийно произход.

Потребителите ще могат да проверяват дали снимките или видеоклиповете са направени от AI с помощта на криптографски методи, които включват информация за това откъде идва съдържанието.

Но за да работи тази система, различните платформи трябва да се съгласят със спецификацията на Коалицията за произход и автентичност на съдържанието (C2PA).

По същия начин Meta пусна инструмент, наречен Meta Video Seal , който може да добавя невидими водни знаци към видеоклипове, направени от AI.

Този инструмент с отворен код е предназначен да работи със съществуващ софтуер без никакви проблеми, което улеснява намирането на съдържание, създадено от AI.

Video Seal обещава да бъде устойчив на често срещани редакции като замъгляване и изрязване, за разлика от по-старите технологии за водни знаци, които имаха проблеми с компресирането и манипулирането на видео.

Проблеми и ограничения

Дори и с тези подобрения, все още има проблеми с привличането на много хора да използват тези технологии. Много разработчици може да се колебаят да преминат от съществуващи собствени решения към опции с отворен код като Video Seal.

Meta планира да провежда семинари на големи конференции за изкуствен интелект и да направи публична класация, която сравнява различни методи за поставяне на водни знаци, за да накара повече хора да работят заедно.

Освен това методите за поставяне на водни знаци, които имаме сега, не винаги са достатъчно силни или ефективни, когато става въпрос за видео съдържание.

Два основни подхода за борба със съдържанието, генерирано от ИИ

В битката срещу съдържанието, генерирано от изкуствен интелект, се появиха две различни стратегии:

1. Воден знак (превантивен подход):

• Работи чрез добавяне на невидими подписи към съдържанието в момента на създаване
• Действа като цифров сертификат, показващ „това е направено от AI“
• Инструменти като Meta Video Seal и функциите за произход на Microsoft представляват този подход
• Основното предимство е незабавното идентифициране на AI съдържание

2. Инструменти за откриване (аналитичен подход):

• Анализира съществуващо съдържание, за да определи дали е генерирано от AI
• Търси модели и характеристики, типични за съдържанието, създадено от AI
• Особено полезно за съдържание, което не е маркирано при създаването
• Тези инструменти формират нашата втора линия на защита

И двата подхода са необходими, тъй като се допълват взаимно: водният знак предотвратява злоупотребата, докато инструментите за откриване помагат за идентифициране на немаркирано съдържание.

Инструменти и технологии за откриване

Съдържанието, генерирано от изкуствен интелект, може да бъде намерено по повече начини не само по технологии за водни знаци. Новите инструменти за откриване използват сложни алгоритми за разглеждане както на текстово, така и на графично съдържание.

• Оригиналност, алгоритмите за дълбоко обучение се използват от AI за намиране на модели в текст, генериран от AI.
• GPTZero разглежда езиковите структури и честотите на думите, за да направи разлика между съдържанието, което е написано от хора, и съдържанието, създадено от машини.
• CopyLeaks използва N-грами и сравнения на синтаксиса, за да намери малки промени в езика, които могат да бъдат признаци за авторство на AI.

Тези инструменти трябва да дават на потребителите точни мнения за това колко истинско е съдържанието, но колко добре работят може да варира много.

В заключение

С напредването на генеративния изкуствен интелект защитата на цифровата автентичност става все по-важна. Microsoft и Meta са водещи с новаторски стандарти за автентичност на съдържанието и проверка на медийния произход.

За да се борим ефективно с дълбоките фалшификати, се нуждаем както от приемането на тези инструменти в цялата индустрия, така и от по-силно сътрудничество между технологичните компании. Бъдещата цялост на цифровото съдържание зависи от технологиите за откриване, които се развиват по-бързо от измамата, генерирана от изкуствен интелект.

Всъщност наскоро разгледахме как YouTube предприема подобни стъпки, като въвежда нови инструменти за откриване на изкуствен интелект за създатели и марки. Техният подход включва синтетична гласова идентификация и технологии за разпознаване на лица, генерирани от AI, което допълнително демонстрира как големите платформи работят за защита на автентичността на съдържанието в ерата на AI.