Anthropic predlaže usporavanje AI trke — ali tek kad svi na to pristanu
Anthropic, start-up koji se ovog proleća popeo na vrednost od blizu bilion dolara i u AI trci prestigao OpenAI (ChatGPT), u svom novom tekstu na korporativnom blogu kaže da glavno pitanje više nije u tome koliko AI pomaže sam sebi u razvoju, već koliko brzo čovek ispada iz tog procesa. Marina Favaro i Jack Clark iz Anthropic Instituta navode da Claude već sada piše više od 80% koda za nove verzije alata, dok prosečan inženjer isporučuje osam puta veći rezultat nego u 2024. godini. Autori ne tvrde da je autonomna rekurzija, gde AI sam sebe poboljšava, u potpunosti preuzela razvoj, ali upozoravaju da se polako približavamo fazi u kojoj će AI alati sami dizajnirati svoje naslednike, bez potrebe za čovekom u petlji. Poruka teksta je da bi trebalo da se razmotri mogućnost usporavanja ili privremene pauze u razvoju frontier modela, ali samo ako više laboratorija, u više zemalja, prihvati iste uslove na proverljiv način. Tu se cela ideja sudara sa vrlo prizemnim problemom: training AI modela je daleko lakše sakriti nego razvoj nuklearnih programa i raketnih silosa.
↯ ŠTA ZNAČI
Anthropic u AI trci gradi svoju poziciju kroz prizmu odgovornosti, sa jednom rukom na volanu, a drugom na ručnoj kočnici. Zato ovaj poziv ne treba odbaciti kao vešto promišljen PR, niti ga čitati kao monaški zavet. Dokaz opasnog ubrzanja koji nude, kako Claude već sada piše više od 80% produkcionog koda, ujedno je i wow efekat i najjači prodajni adut, a te brojke ne proverava niko izvan kompanije. Za firme kod nas, koje ne prave frontier modele nego ih sve češće uvlače u svakodnevni posao, pravo pitanje nije hoće li se svet ikada usaglasiti oko kontrole razvoja AI-ja, nego koliko internih procesa već sada zavisi od alata čija se cena, pravila, mogućnosti i ponašanje mogu promeniti preko noći — bez ičijeg odobrenja.
→ PREPORUČENI KORACI
- 01 Popisati gde se u firmi AI alati već koriste za pisanje koda, obradu dokumenata, analize, odluke ili komunikaciju sa klijentima
- 02 Odvojiti AI pomoć od AI odlučivanja: tamo gde rezultat ima poslovnu, pravnu ili bezbednosnu posledicu, čovek ostaje odgovoran za konačni ishod
- 03 Definisati koje klase podataka ne smeju u spoljne AI alate, uključujući izvorni kod, ugovore, lične podatke, kredencijale i interne incidente
- 04 Napraviti plan B za procese koji bi stali ako AI dobavljač promeni cenu, ograniči pristup, povuče model ili promeni ponašanje alata
- 05 Pratiti promene u AI alatima koji su već u upotrebi, jer novi model može da bude drugačiji operativni rizik