Recent, Amazon a fost lansat chatbot-ul său AI Amazon Q, stârnind interesul companiilor, dar și îngrijorări în rândul angajaților cu privire la probleme grave de acuratețe și confidențialitate. Q a fost raportat pentru că avea „halucinații de nu poco poveste” și a dezvăluit date confidențiale, ridicând întrebări cu privire la securitatea informațiilor companiei. Iată detaliile dezvăluite de Platformer.
Alertă de securitate pentru Amazon Q: între date confidențiale și răspunsuri incorecte
Amazon el a introdus chatbot-ul său AI, numit Q, acum trei zile, dar nu totul pare să meargă conform planului. Unii angajați au tras un semnal de alarmă cu privire la problemele de acuratețe și confidențialitate: Amazon Q ar fi manifestat „halucinații” și ar fi dezvăluit informații confidenţial, cum ar fi locația centrelor de date AWS, programele interne de reduceri și funcțiile care nu au fost încă lansate.
Aceste informații au apărut din documente scurse și obținute de Platformer, evidențiind a Problemă de securitate de nivelul 2, o situație gravă care necesită intervenția urgentă a inginerilor.
În ciuda acestui fapt, Amazon a minimalizat importanța acestor discuții interne. Un purtător de cuvânt a spus că partajarea feedback prin canalele interne este o practică standard la Amazon și că nu au fost identificate probleme de securitate ca urmare a acestui feedback. Compania a subliniat importanța feedback-ului primit și dorința de a continua rafinați Amazon Q pe măsură ce trece de la previzualizare la disponibilitate generală.
Amazon Q, disponibil în prezent într-o previzualizare gratuită, a fost prezentat ca un versiunea software pentru întreprinderi a unui chatbot, cu funcții inițiale care vizează răspunsul la întrebările dezvoltatorilor despre AWS, modificarea codurilor sursă și citarea surselor. Amazon a subliniat securitatea și confidențialitatea lui Q, contrastând-o cu instrumente de calitate pentru consumatori precum ChatGPT.
Cu toate acestea, un document intern a relevat că Q poate „halucina” și poate oferi răspunsuri dăunătoare sau inadecvate, cum ar fi informații de securitate învechite ceea ce ar putea pune în pericol conturile clienților. Aceste riscuri sunt tipice modelelor lingvistice mari, toate care tind să ofere răspunsuri incorecte sau inadecvate cel puțin în unele ocazii.
Via | Slashdot
