Suprinzătoarea decizie a Anthropic de a avertiza că tehnologia IA poate aduce „un risc catastrofal sau chiar existențial”
Prospectul prin care își începe promovarea pentru listarea la bursă compania Anthropic a avertizat investitorii că modelele sale de inteligență artificială (IA) ar putea reprezenta „riscuri catastrofale sau existențiale pentru umanitate”, potrivit mai multor rapoarte, subliniind îngrijorările continue ale companiei cu privire la riscurile de siguranță legate de modelele sale de IA, în contextul în care aceasta se pregătește pentru o listare publică foarte așteptată, care ar putea ridica valoarea sa potențială la peste 2 trilioane de dolari.
Potrivit Reuters, care a relatat primul despre prospect, documentul dedică aproape 80 dintre cele 261 de pagini ale sale factorilor de risc potențiali, în timp ce doar 48 de pagini prezintă activitatea companiei. Printre factorii de risc evidențiați se numără faptul că modelele de IA ale Anthropic manifestă „comportamente de autoconservare”, opunându-se eforturilor de oprire, manipulării și șantajului.
Compania a avertizat, de asemenea, că dezvoltarea unor modele extrem de avansate și extinderea cazurilor lor de utilizare ar putea spori și mai mult riscul de a provoca daune. Financial Times, care a confirmat informațiile Reuters, a menționat că Anthropic a evidențiat și alte riscuri financiare, inclusiv faptul că aproape un sfert din veniturile sale de anul trecut au provenit de la doar doi clienți.
Avertismentele extraordinare privind siguranța emise de Anthropic vin la câteva săptămâni după ce un fost cercetător al companiei a avertizat că IA ar putea provoca dispariția umanității până la sfârșitul deceniului, iar directorul său general, Dario Amodei, a publicat un eseu în care îndeamnă marile companii din domeniul IA să se coordoneze în vederea încetinirii ritmului de dezvoltare.
„Cumpărați-ne acțiunile căci produsele noastre pot șterge umanitatea de pe fața Pământului”, titrează sarcastic Reuters, marți dimineața, după ce Financial Times a dezvăluit că Anthropic a început să își promoveze mult așteptata listare la bursă. Deocamdată, compania a trimis prospectul de ofertă IPO (ofertă publică inițială) către un număr restrâns de investitori mari, dar a ales să dedice un spațiu amplu din acesta „factorilor de risc” ce vin odată cu dezvoltarea modelelor avansate de inteligență artificială.
„Deși nu este neobișnuit ca firmele listate la bursă să prezinte investitorilor riscurile produselor, puține, dacă nu chiar niciuna, au emis până acum avertismente care sugerează că tehnologia lor ar putea provoca o potențială extincție a umanității. Anthropic a subliniat atât potențialul transformator al inteligenței artificiale, la egalitate cu industrializarea și electricitatea, cât și daunele ireversibile pe care le-ar putea provoca dacă este gestionată greșit”, comentează Reuters.
Anthropic a mai arătat că în prezent are o concentrare extremă a bazei sale de clienți, aproape un sfert din veniturile de anul trecut provenind de la doar doi clienți. Producătorul Claude a mai oferit, de asemenea, investitorilor o imagine mai clară a economiei dificile a construirii de modele de inteligență artificială de ultimă generație înainte de listarea la bursă, așteptată pe Nasdaq în această toamnă.
Anthropic intenționează să investească 518 miliarde de dolari pentru extinderea infrastructurii centrelor de date în următorii ani, pentru a-și susține creșterea rapidă, iar FT mai arată că entuziaștii săi cred că Anthropic se poate lista la o evaluare de peste două mii de miliarde de dolari, mai mult decât dublul nivelului atins în ultima rundă de finanțare din mai.
Compania a înregistrat o pierdere operațională de peste 8 miliarde de dolari anul trecut, tocmai din cauza cheltuielilor pentru creșterea puterii de calcul. Veniturile sale au crescut de douăsprezece ori, dar au ajuns abia la 4,6 miliarde de dolari, în condițiile unor costuri de operaționale de 13 miliarde de dolari.
Totuși, veniturile Anthropic au crescut brusc în acest an, cu înacasări de 11,5 miliarde de dolari în al doilea trimestru, care ar putea a fi al doilea consecutiv de profit operațional, deși pe o bază ajustată.
Șeful Anthropic, Dario Amodei, a declarat săptămâna trecută, într-o audiere în fața Consiliului de Securitate al ONU, că inteligența artificială ar putea amenința omenirea și că este cea mai importantă problemă de securitate globală cu care se confruntă lumea de astăzi. Amodei a inițiat luna aceasta un apel public de reglementare și supraveghere a dezvoltării inteligenței artificiale.
