Startup-ul de cercetare în domeniul inteligenței artificiale OpenAI a lansat marți un instrument pentru a afla dacă textul a fost scris de un om sau de un computer.
Creatorii ChatGPT, OpenAI, lansează un instrument pentru a detecta textele generate de AI
OpenAI, compania din spatele ChatGPT, un chatbot care poate genera text asemănător omului, a devenit viral după ce a fost lansat în urmă cu două luni. Microsoft a anunțat săptămâna trecută o investiție de mai multe miliarde de dolari în OpenAI și a declarat că va încorpora modelele AI ale startup-ului în produsele sale de consum și de afaceri.
De când ChatGPT a debutat în noiembrie, unele dintre cele mai mari districte școlare din SUA, inclusiv New York City, au interzis chatbot-ul AI din cauza temerilor că elevii vor folosi generatorul de text pentru a înșela sau a plagia.
CEO-ul OpenAI, Sam Altman, a spus că educația s-a schimbat în trecut odată cu apariția calculatoarelor și a altor tehnologii, dar a sugerat, de asemenea, că compania ar putea avea o modalitate de a ajuta profesorii să descopere text scris din IA.
Noul instrument OpenAI nu este perfect, iar compania spune că este încă o lucrare în curs și pot apărea erori în timpul utilizării. „În evaluarea noastră a „setului nostru de provocări” de texte în limba engleză, clasificatorul nostru a identificat corect 26% din textul scris de AI (adevărate pozitive) ca fiind „probabil scris de o IA”, în timp ce 9% din textul scris de om. textul a fost etichetat greșit ca fiind scris de AI (false pozitive)”, a scris angajatul OpenAI.
Noul instrument nu este de încredere la analizarea articolelor cu mai puțin de 1000 de caractere, iar OpenAI sfătuiește utilizarea sa pentru alte limbi decât engleza. De asemenea, textul AI poate fi actualizat suficient de ușor pentru a împiedica clasificatorul să judece corect că nu este opera unui om.
OpenAI spune că se adresează educatorilor pentru a discuta despre capacitățile și limitările ChatGPT și va continua să lucreze la detectarea textului generat de AI.
La oferta pe Amazon
