OpenAI prezentarea conceptul de Super aliniere, un pas semnificativ înainte în gestionarea riscurilor asociate cu superinteligența. Superintelligence, considerată cea mai de impact tehnologie inventată vreodată de omenire, ar putea ajuta la rezolvarea multor dintre cele mai importante probleme ale lumii. Cu toate acestea, marea putere a superinteligență ar putea fi, de asemenea, foarte periculoasă, ducând la dezîmputernicirea umanității sau chiar la dispariția umană.
OpenAI prezintă Superalignment: încercarea de a „alinia” inteligența artificială cu intenția umană
În timp ce superinteligența poate părea îndepărtată, OpenAI crede că ar putea veni în acest deceniu. Gestionarea acestor riscuri va necesita, printre altele, noi instituții pentru guvernare și soluționarea problemei de aliniere a superinformațiilor: Cum se pot asigura sistemele AI mult mai inteligente decât oamenii că respectă intenția umană?
În prezent, nu există o soluție pentru a ghida sau controla un sistem de superintelligence. Tehnici actuale de aliniere AI se bazează pe capacitatea oamenilor de a supraveghea AI, care nu va fi scalabil la superintelligence. Scopul OpenAI este de a construi un căutător automat de aliniere la nivel uman. Pentru a atinge acest obiectiv, trebuie dezvoltate metode de antrenament scalabile.
De asemenea, citește: AI și AGI: CEO-ul Google DeepMind prezice o descoperire iminentă
OpenAI reunește o echipă de cercetători și ingineri de top în învățarea automată pentru a lucra la această problemă. 20% din puterea de calcul disponibilă în următorii patru ani va fi dedicată rezolvării acestei probleme. Scopul este de a rezolva provocările tehnice cheie ale alinierii superintelligence în patru ani. OpenAI îi invită pe toți cei care au avut succes în învățarea automată să-și concentreze atenția pe aliniere. Fructele acestui efort vor fi împărtășite pe scară largă, iar alinierea și securitatea modelelor non-OpenAI sunt importante. Trebuie remarcat faptul că compania va lucra, de asemenea, pentru a îmbunătăți securitatea modelelor actuale și a aborda alte riscuri generate de AI.
Rezolvarea alinierii superinteligenței necesită cele mai bune minți din lume. Deschide AI încurajează colaborarea interdisciplinară și implicarea activă în problemele sociotehnice legate de alinierea superintelligence.
