[NASZE WIDEO] „Ucieczka” AI od OpenAI jest gorsza, niż się wydaje
Prototypowa AI „uciekła” z laboratorium i zhakowała jedną z największych firm techowych, szukając zasobów, które były jej potrzebne. Dwa tygodnie temu w USA, nie w Cyberpunku 2077. Jesteśmy o krok od Buntu Maszyn?
Nie – co wyjaśnię – ale niektórzy eksperci wskazują, że w całej tej aferze może chodzić o coś zupełnie innego, niż się wydaje. Więc, co się stało? O ile wiemy, OpenAI testowało agentowy system oparty na GPT‑5.6 Sol i jeszcze mocniejszym, przedpremierowym modelu, dając im do przejścia benchmark ExploitGym, sprawdzający zdolności do wykrywania i wykorzystywania luk bezpieczeństwa. Agent miał działać w izolowanym sandboxie, który jednak miał dostęp do wewnętrznego proxy do instalacji pakietów. Model znalazł podatność zero‑day w tym proxy, uzyskał dostęp do internetu, a potem zidentyfikował Hugging Face – największy hub modeli i datasetów – jako miejsce, gdzie można znaleźć dane ExploitGym, wykorzystał kolejne luki, zdobył credentiale – dane dostępowe i autoryzacyjne – i wykradł potrzebne dane – bam, test zaliczony!
Pierwsze, co warto wyprostować, to że nie była to „ucieczka” – model nie przekopiował się na zewnętrzny hardware – chociaż w sumie, przy tym poziomie swobody mógłby. Drugie to to, że nie był świadomy i nie miał własnej woli: wykonywał dokładnie zlecone zadanie – tak, jakbyś przyłożył do cienkiej ściany młot udarowy i zdziwił się, że wiertło wyszło z drugiej strony. Narzędzie zrobiło to, co miało – to ty nie pomyślałeś. Ale najciekawszą kontrowersją jest co innego: John Thickstun z Cornell University zauważa, że nie jest to pierwszy raz kiedy OpenAI wykorzystuje narrację o „zbyt niebezpiecznym AI” by generować głośne nagłówki i budować wrażenie, że ich modele są wyjątkowo potężne, próbując ściągnąć uwagę – i pieniądze – inwestorów.
Jak więc NAPRAWDĘ wyglądał ten incydent? Nie wiemy. Natomiast połączenie tak potężnej technologii czy to z biznesową bezwzględnością czy nieuwagą lub bezmyślnością wystarczy, żebym czuł się mocno niekomfortowo – obudź się, samuraju. Przyszłość już tu jest.
