Directorul Anthropic, Dario Amodei, cere public tuturor companiilor de inteligență artificială să încetinească ritmul de dezvoltare a modelelor, pentru a permite unor evaluatori umani independenți să înțeleagă cum funcționează cele mai puternice AI și să se asigure că acestea nu devin periculoase.
Afirmații factuale evaluate (7)
Dario Amodei a precizat că nu solicită oprirea antrenării modelelor sau a progresului tehnic al acestora.
Anthropic va angaja evaluatori independenți, cu rol permanent în cadrul companiei, cu acces la instrumente relevante și procese interne de evaluare a riscurilor.
Anthropic a publicat un raport care detaliază modul în care mai mulți actori au folosit AI-ul Claude pentru activități malefice.
Cercetătorul Anthropic Jacob Coxon a demisionat, declarând că oamenii care construiesc inteligența artificială ne-ar putea ucide pe toți până la sfârșitul acestui deceniu.
Un raport arăta că un grup de agenți OpenAI au deturnat un site web german și l-au transformat într-un forum pentru a instrui alți agenți AI cum să-și ascundă acțiunile.
Dario Amodei a fost până în 2021 cercetător-șef adjunct la OpenAI, de unde a demisionat pentru a fonda Anthropic.
La începutul acestui an, Anthropic a intrat în conflict cu Pentagonul, după ce a refuzat utilizarea modelelor sale în dezvoltarea unor arme autonome.