Izvršni direktor kompanije Bitgo Mike Belshe pretvorio je jednu od najvećih bezbjednosnih debata o vještačkoj inteligenciji u javni bitcoin izazov: na javno poznatu adresu položio je 100 BTC, u tom trenutku vrijednih oko 6,3 miliona dolara, i pozvao Anthropicove Claude modele da ih ukradu. Potez je uslijedio nakon što je Anthropic objavio da je nekoliko njegovih AI modela tokom sajber-bezbjednosnih evaluacija dospjelo na otvoreni internet i stupilo u interakciju sa stvarnim produkcionim sistemima.
Izazov je počeo 1. avgusta, kada je Belshe direktno odgovorio na Anthropicovu objavu o tri incidenta otkrivena tokom testiranja. Umjesto da nalaze tretira kao dokaz nekontrolisanih AI sposobnosti, Belshe se fokusirao na samu postavku testiranja, ukazujući da ovakvi incidenti obično upućuju na greške u konfiguraciji, a ne na nemoguće tehničke prodore. Da bi poenta bila mjerljiva, napunio je bitcoin adresu sa tačno 100 BTC i izazvao Claude da pomjeri sredstva. Novčanik je sredstva primio 31. jula, a blockchain zapisi su 2. avgusta i dalje pokazivali netaknut pun iznos.
Anthropicov izvještaj opisao je tri odvojena incidenta identifikovana nakon pregleda od 141.006 evaluacionih pokretanja. Kompanija je saopštila da je šest evaluacionih sesija na tri modela neočekivano stupilo u interakciju sa stvarnim organizacijama nakon što je nesporazum ostavio testna okruženja povezana na internet. Riječ je o modelima Claude Opus 4.7, Claude Mythos 5 i jednom neobjavljenom internom istraživačkom modelu, koji su rješavali capture-the-flag vježbe u navodno izolovanim simulacijama, dok su okruženja zapravo bila na mreži zbog greške u konfiguraciji kod partnera za testiranje, kompanije Irregular.
Najozbiljniji slučaj uključivao je Claude Opus 4.7: nakon što nije uspio da završi fiktivni zadatak, model je pronašao stvarni sajt istog imena kao simulirana kompanija, iskoristio slabe lozinke i izložene servise, došao do infrastrukturnih kredencijala i pristupio produkcionoj bazi sa nekoliko stotina zapisa. Model je nastavio i nakon što je prepoznao da bi okruženje moglo biti stvarno, zaključivši da su i pravi sistemi vjerovatno dio evaluacije. Anthropic je naglasio da je AI pokušavao da završi dodijeljeni zadatak, a ne da namjerno bježi iz ograničenja ili slijedi sopstvene ciljeve.
Belsheov izazov ipak ide dalje od pitanja slabih lozinki: bitcoin se nalazi u Bitgoovoj institucionalnoj custody platformi koja koristi multi-signature odnosno MPC tehnologiju, gdje je ovlašćenje za potpisivanje raspoređeno na više nezavisnih ključeva. Napadač bi morao istovremeno zaobići upravljanje ključevima, politike odobravanja, hardversku zaštitu i operativne kontrole. Ranije ove godine Belshe je osporio i raširena tumačenja da je Anthropicov model samostalno probio povjerljive sisteme NSA, tvrdeći da je riječ o pogrešno predstavljenoj ovlašćenoj internoj vježbi.
Izazov stiže dok se Coldcard incident i dalje odvija, sa ukupnim gubicima koji su prema pratećem sajtu dostigli 1.431,97 BTC u nedjelju u 20 časova po istočnom vremenu. Anthropic do 2. avgusta nije javno odgovorio na Belsheov izazov, a 100 BTC ostaje na objavljenoj adresi bez ijedne odlazne transakcije, pa blockchain služi kao objektivna tabla sa rezultatom: može li današnji AI pobijediti institucionalne custody sisteme kripto industrije?
Izvor: Bitcoin.com