OpenAI избра проф. Мартин Вечев за тест на textGrain

Новият воден знак за AI текстове се въвежда поетапно в ЕС

Проф. Мартин Вечев, основател и научен директор на INSAIT към Софийския университет, е сред ограничен кръг водещи изследователи, избрани от OpenAI да проучат и помогнат за усъвършенстването на нова технология за воден знак в текстове, генерирани от изкуствен интелект. Участието му в инициативата е потвърдено и от самата OpenAI.

Какво представлява textGrain и как работи

Технологията, наречена textGrain, вгражда невидим статистически сигнал в начина, по който моделът избира думи и части от думи при генерирането на текст. Сигналът не е видим за читателя. Той не разчита на скрити символи, необичайна пунктуация или невидими интервали.

OpenAI посочва, че специален детектор може впоследствие да провери дали в текста присъства воден знак, свързан с компанията.

Съществената разлика спрямо традиционните AI детектори е в подхода. Обичайните инструменти се опитват да преценят произхода на текста по стил и статистически характеристики. При textGrain идеята е още в самия процес на генериране да остава проследима индикация за произход.

Ограниченията, които OpenAI подчертава

OpenAI уточнява, че технологията има ограничения. Липсата на открит воден знак не означава непременно, че даден текст не е създаден от изкуствен интелект. Според компанията това може да се дължи на няколко причини.

Текстът може да е генериран от неподдържан модел. Възможно е да е създаден преди въвеждането на маркирането. Или да е променен по начин, който затруднява откриването.

Самият детектор засега не е публично достъпен. OpenAI дава достъп до ограничен кръг одобрени изследователи и експертни организации. Целта е те да оценят надеждността, ограниченията и възможните начини за усъвършенстване на системата.

Сред изброените от компанията участници са проф. Мартин Вечев, преподавателят от Cornell University Джон Тикстън и изследователи от Kempelen Institute of Intelligent Technologies.

Въвеждане в ЕС и връзката с новите европейски правила

OpenAI започва постепенно въвеждане на текстовия воден знак за допустими изходи от ChatGPT и Codex в Европейския съюз. За API клиентите технологията е налична като опция за определени модели. Тя обаче не е включена по подразбиране.

Темата придобива допълнителна тежест заради европейските изисквания за прозрачност на AI съдържанието. Европейският акт за изкуствения интелект предвижда доставчиците на системи, които генерират синтетичен текст, изображения, звук или видео, да осигурят машинно четимо маркиране. Целта е съдържанието да може да бъде разпознавано като генерирано или манипулирано от изкуствен интелект.

За системи, пуснати на пазара преди 2 август 2026 г., правилата предвиждат преходен срок до 2 декември 2026 г. за изпълнение на това изискване. На този фон технологии за доказване на произхода на AI съдържанието се превръщат във все по-важен елемент от развитието на генеративните модели.

Според информацията участието на проф. Вечев поставя INSAIT и България сред изследователските центрове с ранен достъп до технологията. Това дава възможност за участие в оценката на практическото ѝ приложение.

Още новини в категория Светът