Sú nástroje na detekciu textu generovaného umelou inteligenciou spoľahlivé?

Jednoduché riešenie na detekciu textu generovaného umelou inteligenciou neexistuje a možno ani nemôže existovať.

Písmo: A- | A+
Diskusia  (0)

Štúdia výskumného osemčlenného tímu zo siedmich krajín (DE, LV, SE, CZ, MX, UK) odpovedá na otázky, či existujúce detekčné nástroje, ktoré dokážu spoľahlivo rozlíšiť text písaným človekom a text generovaným umelou inteligenciou (UI). Výskum zahŕňa dvanásť voľne dostupných nástrojov a dva komerčné systémy (Turnitin a PlagiarismCheck), ktoré sú široko používané v akademickom prostredí.

Výskumný tím dospel k záveru, že skúmané detekčné nástroje nie sú presné ani spoľahlivé a majú sklon klasifikovať  text ako text písaný človekom a nie text generovaný UI. Štúdia prináša niekoľko významných prínosov:

SkryťVypnúť reklamu
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou
  • sumarizuje aktuálne podobné vedecké a nevedecké snahy v tejto oblasti,

  • predstavuje výsledok jedného z najkomplexnejších testov, ktoré sa doteraz uskutočnili na základe dôslednej metodológie výskumu, pôvodného súboru dokumentov a širokého pokrytia nástrojov

  • diskutuje o dôsledkoch a nevýhodách používania detekčných nástrojov pre text generovaný UI v akademickom prostredí.

Zistenia štúdie silne naznačujú, že „jednoduché riešenie“ na detekciu textu generovaného UI neexistuje (a možno ani nemôže existovať). Preto navrhujú nezameriavať sa na detekčné stratégie, ale pedagógovia sa musia zameriavať na preventívne opatrenia a pokračovať v prehodnocovaní stratégií akademického hodnotenia, ktoré by sa malo zamerať skôr na proces rozvoja zručností študentov ako na finálny produkt (písomná práca).

Link na štúdiu: https://arxiv.org/ftp/arxiv/papers/2306/2306.15666.pdf

Julius Kravjar

Julius Kravjar

Bloger 
  • Počet článkov:  101
  •  | 
  • Páči sa:  997x

pozorovateľ - čitateľ - pisateľ Zoznam autorových rubrík:  NezaradenéSúkromné

Prémioví blogeri

Post Bellum SK

Post Bellum SK

89 článkov
Karolína Farská

Karolína Farská

4 články
Jiří Ščobák

Jiří Ščobák

764 článkov
Karol Galek

Karol Galek

115 článkov
Roman Kebísek

Roman Kebísek

106 článkov
reklama
reklama
SkryťZatvoriť reklamu