OpenAI започнува со воведување технологија за невидливо означување (воден жиг) на AI текст, во согласност со барањата на Европскиот закон за вештачка интелигенција.
Технологијата, наречена „textGrain“, вградува статистички сигнал во изборот на зборови на моделот. Иако овој сигнал е невидлив за луѓето, специјализиран детектор подоцна може да утврди дека текстот е генериран од AI систем.
Првично, textGrain ќе биде достапен за корисниците на API на OpenAI ширум светот како опционална функција. Во Европската унија, OpenAI планира во наредните недели автоматски да почне да го применува овој систем на текстуалните одговори генерирани од ChatGPT и Codex.
Истовремено, компанијата предупредува дека технологијата не е непогрешлива.
Внатрешните тестови покажаа дека детекторот го препознал водениот жиг во приближно 80 проценти од текстовите долги 200 токени, додека стапката на успешност достигнала околу 95 проценти за текстови од 400 токени во одредени области. Резултатите биле значително пониски кај математиката и други содржини каде што има помала слобода при изборот на зборови.
Предизвик претставува и уредувањето на текстот по неговото генерирање. Во еден тест, замената на само 10 проценти од зборовите со синоними ја намалила стапката на откривање од 92 на 66 проценти, додека замената на четвртина од зборовите ја спуштила стапката на едвај 17 проценти.
Според тоа, OpenAI нагласува дека водениот жиг не може да го покаже степенот на човечки придонес во текстот, ниту пак утврдува авторство, сопственост или законитост на содржината. Понатаму, тој не го поврзува текстот со одреден корисник или сметка. Компанијата исто така планира да го објави изворниот код за textGrain, со цел истражувачите и заедницата на програмери да можат дополнително да го тестираат и усовршуваат.
