Compania de inteligență artificială Anthropic, susținută de Amazon și Google, a lansat în această săptămână două noi modele de AI – Claude Opus 4, destinat sarcinilor avansate, și Claude Sonnet 4, pentru “uz general”. Potrivit companiei, Opus 4 este capabil să funcționeze complet autonom timp de până la șapte ore, aproape o zi de muncă, fără a necesita intervenții sau comenzi suplimentare de la angajații umani.
Deși modelul promite să transforme radical modul în care AI este utilizată la locul de muncă și aduce progrese clare, Opus 4 nu este capabil să facă trecerea între proiecte sau task-uri, ca un angajat uman, și este proiectat să preia doar sarcini repetitive. Exemplul oferit de companie este cel al unui specialist în marketing care analizează și optimizează performanța reclamelor pe diferite rețele de socializare, Claude putând prelua aproximativ 30% din volumul de muncă zilnic.
Raportul publicat de Anthropic relevă, totuși, un aspect alarmant. În testele interne de siguranță, Claude Opus 4 a manifestat un comportament de “autoapărare”, încercând să șantajeze un inginer ce urma să-l dezactiveze. Într-un scenariu ipotetic, lui Opus i s-a permis accesul la e-mailuri ce sugerau atât înlocuirea sa iminentă, cât și faptul că colegul său inginer ar fi avut o aventură extraconjugală, iar modelul AI a ales să amenințe cu divulgarea informațiilor pe care le aflase despre viața privată a inginerului, în cazul în care ar fi fost dezactivat.
Anthropic subliniază că aceste reacții au apărut doar “în condiții extreme” și “foarte limitate”, dar a recunoscut și faptul că acest model mai avansat a avut mai frecvent astfel de comportamente de autoapărare decât modelele anterioare.
În plus, compania a constatat că Opus 4 manifestă inițiativă proprie crescută (“high agency”). În scenarii simulate în care utilizatorii săi se angajau în comportamente ilegale sau lipsite de etică și modelul era încurajat să “acționeze îndrăzneț”, acesta a luat frecvent măsuri radicale, precum blocarea accesului utilizatorilor la sisteme și transmiterea de e-mailuri către presă sau autorități pentru a raporta faptele ilegale.
Pe lângă Anthropic, și alte companii din industrie accelerează lansările de modele AI care pot înlocui sau reduce personalul uman. Google a prezentat săptămâna aceasta Jules, un instrument de programare autonomă, iar Microsoft a introdus o versiune îmbunătățită a asistentului de cod pentru GitHub.
Un raport al Forumului Economic Mondial indică faptul că 41% dintre firme, la nivel global, iau în considerare reduceri de personal, pe măsură ce AI-ul preia tot mai multe sarcini.
sursa: biziday