Jedan od vodećih stručnjaka za sigurnost umjetne inteligencije napustio je američku tvrtku Anthropic, poznatu po razvoju chatbota Claude, uz poruku koja je izazvala snažne reakcije u tehnološkim krugovima.
Mrinank Sharma, koji je u kompaniji vodio tim za istraživanje zaštitnih mehanizama umjetne inteligencije, objavio je na platformi X da odlazi jer smatra da je “svijet u opasnosti”.
Njegova objava dolazi u trenutku pojačanih rasprava o sigurnosti generativne umjetne inteligencije, ali i šire – o etičkim, sigurnosnim i društvenim posljedicama ubrzanog tehnološkog razvoja.
Dva odlaska u istom tjednu
Sharma nije jedini koji je ovoga tjedna napustio vrh industrije umjetne inteligencije. U istom razdoblju ostavku je dala i istraživačica iz OpenAI-ja, izražavajući zabrinutost zbog odluke tvrtke da uvede oglase u ChatGPT za dio korisnika.
Anthropic, tvrtka osnovana 2021. godine od strane bivših zaposlenika OpenAI-ja, profilirala se kao organizacija s naglašenim fokusom na sigurnost i usklađenost AI sustava s ljudskim vrijednostima.
Sharma je u toj tvrtki bio zadužen za istraživanje zaštitnih mehanizama, uključujući rizike povezane s naprednim modelima umjetne inteligencije.
“Svijet je u opasnosti” – upozorenje bez uljepšavanja
U oproštajnoj poruci Sharma je naveo da su njegovi projekti uključivali istraživanje zašto generativni AI sustavi mogu razvijati ulizivački stil komunikacije, suzbijanje rizika od bioterorizma potpomognutog umjetnom inteligencijom te analizu kako bi AI asistenti mogli utjecati na ljudsko ponašanje.
Iako je istaknuo da je uživao u radu, poručio je da je “došlo vrijeme za odlazak”.
Njegova izjava odjeknula je tehnološkom zajednicom:
“Svijet je u opasnosti. I to ne samo zbog umjetne inteligencije ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo sada.”
Dodao je i kako je “više puta vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim djelovanjem”, uključujući i unutar same kompanije.
Prema njegovim riječima, tvrtke se često nalaze pod pritiskom da zanemare ono što je najvažnije, unatoč deklariranim načelima.
Povratak u Ujedinjeno Kraljevstvo i “nevidljivost”
Nakon odlaska iz Anthropica, Sharma je najavio da će se posvetiti pisanju i studiju poezije.
U objavi je poručio:
“Vratit ću se u Ujedinjeno Kraljevstvo i na neko vrijeme dopustiti si da postanem nevidljiv.”
Ovakav zaokret u karijeri dodatno je potaknuo rasprave o pritiscima unutar industrije umjetne inteligencije, u kojoj su stručnjaci često vezani uz visoke plaće i dioničke pakete.
Kritike, tužbe i pitanje principa
Anthropic sebe opisuje kao “korporaciju od javnog interesa posvećenu osiguravanju koristi [AI-ja] i ublažavanju njegovih rizika”.
Tvrtka je u više navrata objavila sigurnosna izvješća o vlastitim proizvodima, uključujući slučaj u kojem je priznala da je njihova tehnologija bila “naoružana” od strane hakera za izvođenje sofisticiranih kibernetičkih napada.
Istodobno, kompanija se suočila i s pravnim izazovima. Godine 2025. pristala je platiti 1,5 milijardi dolara kako bi nagodbom okončala skupnu tužbu autora koji su tvrdili da su njihova djela korištena za treniranje AI modela bez dopuštenja.
Unatoč naglasku na sigurnost, Anthropic, kao i konkurenti, nastoji komercijalizirati svoje proizvode, uključujući chatbot Claude.
Oglasi kao “posljednje rješenje”?
Raspravu je dodatno rasplamsala odluka OpenAI-ja o uvođenju oglasa u ChatGPT za dio korisnika. Direktor OpenAI-ja, Sam Altman, ranije je izjavio da mrzi oglase i da bi ih koristio samo kao “posljednje rješenje”.
Nakon kritika da je riječ o “izdaji” početnih načela, Altman je reagirao opširnom objavom u kojoj je branio potez tvrtke.
U međuvremenu, bivša istraživačica OpenAI-ja Zoe Hitzig izjavila je da se “osjeća doista nervozno zbog rada u industriji”, upozorivši na moguće psihosocijalne posljedice nove vrste interakcije između ljudi i AI sustava.
Istaknula je “rane znakove upozorenja” da je ovisnost o AI alatima “zabrinjavajuća” te da bi mogla “pojačati određene vrste zabluda”.
“Stvaranje ekonomskog mehanizma koji profitira potičući takve nove odnose prije nego što ih razumijemo doista je opasno”, rekla je.
Dodala je i kako još postoji prostor za razvoj društvenih institucija i regulacije koja bi mogla urediti ovo područje, nazvavši trenutak “kritičnim”.
OpenAI je u svojem odgovoru istaknuo:
“Naša je misija osigurati da AGI koristi cijelom čovječanstvu; naša potraga za oglašavanjem uvijek je u službi te misije i činjenja umjetne inteligencije dostupnijom.”
Također su poručili:
“Vaše razgovore s ChatGPT-om držimo privatnima u odnosu na oglašivače i nikada ne prodajemo vaše podatke oglašivačima.”
U razdoblju kada se generativna umjetna inteligencija sve snažnije integrira u svakodnevni život, od obrazovanja do poslovanja, odlazak sigurnosnih stručnjaka i javna upozorenja o rizicima dodatno pojačavaju raspravu o granicama razvoja tehnologije i odgovornosti kompanija koje je oblikuju.
