infa.lt

„OpenAI“ įveda nematomus vandenženklius „ChatGPT“ sugeneruotam tekstui

INFA.LT
2026.10.06 12:23
Robotas dirba kompiuteriu

Foto: infa.lt / DI

Reaguodama į griežtus Europos Sąjungos dirbtinio intelekto akto (AI Act) reikalavimus, bendrovė „OpenAI“ žengia pirmuosius oficialius žingsnius teksto kilmės atsekamumo srityje. „OpenAI“ pristato savo DI sugeneruoto turinio žymėjimo sistemą – „textGrain“.

Naujosios priemonės diegiamos etapais, tačiau technologijos ribojimai rodo, kad net patys kūrėjai neturi tobulo ginklo cenzūrai ar turinio kontrolės mechanizmams.

Regioninis startas ir API pasirinkimas

Nuo šiandien pasauliniai API klientai gavo galimybę patys pasirinkti (opt-in) ir aktyvuoti tekstinius vandenženklius pasirinktiems modeliams, tačiau pagal numatytąją parinktį API sistemoje šis žymėjimas lieka išjungtas.

Tuo tarpu Europos Sąjungoje situacija kito pobūdžio: per ateinančias savaites nematomu vandenženkliu bus žymimi visi Europos naudotojų „ChatGPT“ ir „Codex“ tekstiniai duomenys, neatsižvelgiant į plano tipą.

Pasak kompanijos, toks regioninis suskirstymas pasirinktas tam, kad būtų galima įvertinti tikrą technologijos veikimą praktikoje, nesukeliant sisteminio chaoso visame pasaulyje.

Kartu su tuo priimamos paraiškos ir tekstinio vandenženklio buvimo detektoriui gauti. Prieiga iš pradžių bus suteikiama tik atrinktiems mokslininkams ir ekspertų organizacijoms, padedantiems testuoti sistemą.

Plati visuomeninė prieiga nesuteikiama dėl didelės klaidų tikimybės.

Kaip veikia „textGrain“ sistema ir jos technologinės ribos

Naujoji „OpenAI“ sistema „textGrain“ DI modelio žodžių parinkimuose palieka nematomą statistinį žodžių sekos ir sąvokų signalą. O detektorius skenuoja ištrauką ir ieško šios sekos. Kompanija ateičiai planuoja padaryti šią technologiją atvirojo kodo (open source), leidžiančia pritaikyti pagal poreikius kitiems kūrėjams, ir teigia, kad jos efektyvumas prilygsta ar lenkia „Google DeepMind“ vystomą „SynthID“ skirtą tekstams.

Tačiau „OpenAI“ kompanija neslepia fundamentalių technologijos spragų:

Teksto ilgis ir turinys: Trumpesnius ar griežčiau taisyklių apribotus tekstus atpažinti gerokai sunkiau. Pavyzdžiui, esant 1% klaidingų teiginių (false positive) rodikliui, 200 tokenų psichologinio pobūdžio ištraukoje vandenženklis aptinkamas apie 80% atvejų, o 400 tokenų ilgio tekste – apie 95% atvejų. Tačiau matematiniuose ar techniniuose tekstuose, kur žodžių pasirinkimo laisvė minimali, aptikimo rodikliai krenta drastiškai.

Teksto redagavimas: Pakeitus vos 10% žodžių sinonimais 400 žodžių ištraukoje, aptikimo rodiklis iškart smunka nuo 92% iki 66%. Pakeitus ketvirtadalį žodžių (25%), detektorius sugauna vos 17% vandenženklių.

Ko vandenženklis nepasako

Viena svarbiausių „OpenAI“ ataskaitos dalių – pripažinimas, kad teksto vandenženklis nėra absoliutus įrodymas ar teisinis arbitras. Bendrovė atvirai įspėja apie ribojimus:

Nematuoja žmogaus indėlio: Detektorius gali nurodyti, kad sistemų dalis dalyvavo generuojant tekstą, tačiau neparodo, kiek žmogaus kūrybos, redagavimo ar redakcinio darbo įdėta.

Nenustato teisinės atsakomybės: Jis neatsako į klausimą, kas yra teksto autorius, ar jo panaudojimas buvo teisėtas.

Neidentifikuoja naudotojo: Įrankis praneša tik apie žymės buvimą, neatskleisdamas konkretaus asmens, paskyros ar pirminio užklausos turinio.

Negarantuoja tiesos: Vandenženklis nereiškia, kad tekstas yra teisingas, patikimas ar nepavojingas.

Kuriozas pabaigai

  • „OpenAI“ pranešime pažymima, kad vandenženklio nebuvimas visiškai neįrodo žmogaus autorystės – tekstas galėjo būti per trumpas, išverstas į kitą kalbą, redaguotas arba sukurtas kito kūrėjo DI modeliu.

Žmogus, kaip autorius, baigia savo egzistavimą šioje skaitmeninėje sistemoje, nes detektorius negali įrodyti jo egzistavimo.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 124

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Komentarų: 0 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 0 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

Komentarų: 1 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą
    D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

komentarai 4 Skaityti visą įrašą

Kai tik himnas prieina prie "ir šviesa" taip noris pridėti "ir tamsa" mus telydi. Apie...

Tarp programos punktų – referendumo inicijavimo slenksčio mažinimas nuo 300 tūkst. iki 150 tūkst. parašų...

musu DARBO valandos! Apmokestintos ir visos ismokos,iskaitant ligos,pensijos,pasalpos,atostoginiai ir kt. Neretai net ne po karta!...

Partijų tikrai per daug yra, daugiau tikrai nereikia, reikia jungtis joms į vieną su panašiomis...

Dievas - ne ubagu tarnas! Ir uz juos jungo nei nes,nei nusikratys juo. Teks patiems,kai...

Pasaulyje yra tik ponai ir ubagai. Kas kuria partijas? Ogi tikrai ne pastarieji. Todel,visos partijos...

Vėl bus ta pati dainelė,kuri prie nieko neveda....