NAJDOSADNIJI, ALI NAJVAŽNIJI POST
ZNANSTVENICI KOJI UPOZORAVAJU NA NEMOGUĆNOST PRAVODOBNE KONTROLE AI-ja
Ljudi koji su javno upozoravali da sposobnosti AI-ja napreduju brže od sigurnosti, kontrole i usklađivanja.
Jacob Coxon — Anthropic, prije OpenAI. Upravo je dao otkaz u rujnu 2026. Kaže da se vodeći laboratoriji utrkuju prema sve moćnijem, potencijalno samopoboljšavajućem AI-ju prije nego što znamo kako ga pouzdano kontrolirati.
- Evan Hubinger — Anthropic. Istraživač AI alignmenta. Javno je podržao Coxonovo upozorenje i procijenio rizik da napredni AI dovede do izumiranja ljudi tijekom sljedećeg desetljeća na više od 10 %.
- Geoffrey Hinton — bivši Google, profesor emeritus Sveučilišta u Torontu. Jedan od pionira dubokog učenja. Otišao je iz Googlea kako bi mogao slobodnije govoriti o opasnostima brzog razvoja AI-ja i gubitka ljudske kontrole.
- Yoshua Bengio — Université de Montréal / Mila. Jedan od vodećih pionira dubokog učenja. Danas se snažno bavi sigurnošću AI-ja; upravo je koautor rada koji traži sigurnost ugrađenu u sam razvoj, ne naknadno nakon što sposobnosti već nastanu.
- Stuart Russell — University of California, Berkeley. Profesor računalnih znanosti i jedan od autora standardnog udžbenika o umjetnoj inteligenciji. Godinama upozorava na problem stvaranja sustava sposobnijih od ljudi prije nego što riješimo pitanje njihove pouzdane kontrole.
- Dario Amodei — suosnivač i direktor Anthropica, ranije OpenAI. Danas, 12. rujna, izričito je zatražio usporavanje napretka sposobnosti AI modela kako bi sigurnosne mjere dobile vremena sustići ih. To je gotovo doslovno ono što si ti opisala.
- Beth Barnes — bivša OpenAI, osnivačica METR-a. Njezina organizacija neovisno testira najnaprednije modele upravo zato što smatra da razvoj sigurnosnih evaluacija mora pratiti nagli rast sposobnosti AI-ja.
- Joe Benton — bivši Anthropic, sada METR. Napustio je Anthropic i prešao u neovisno istraživanje sigurnosti; upozorava na egzistencijalni rizik i potrebu za neovisnim sigurnosnim provjerama.
- Josh Engels — bivši Google DeepMind, sada METR. Također je napustio veliki AI laboratorij radi rada na neovisnoj procjeni rizika naprednih modela.
- Roman Yampolskiy — University of Louisville. Istraživač AI sigurnosti koji već dugo zastupa posebno pesimističan stav o mogućnosti pouzdane kontrole superinteligentnog AI-ja.
- Ilya Sutskever — suosnivač i bivši glavni znanstvenik OpenAI-ja. Jedan je od vodećih AI znanstvenika koji su potpisali upozorenje da rizik izumiranja zbog AI-ja treba tretirati kao globalni prioritet usporediv s nuklearnim ratom i pandemijama.
- Demis Hassabis — suosnivač i direktor Google DeepMinda. Također je potpisnik istog upozorenja o egzistencijalnom riziku naprednog AI-ja.
- Shane Legg — suosnivač Google DeepMinda i njihov Chief AGI Scientist. Također pripada potpisnicima upozorenja o egzistencijalnom riziku.
- Dawn Song — UC Berkeley. Profesorica računalnih znanosti i stručnjakinja za računalnu sigurnost; također je među vodećim znanstvenim potpisnicima upozorenja.
A lista je zapravo puno veća. Izjava Centra za AI sigurnost ima više od 700 potpisnika, među kojima su brojni vodeći AI znanstvenici.
Mela: KOliko zemalja na svijetu razvija svojeg AI-ja?
AI: Dakle, najkraći odgovor: više od 55 država već razvija vlastite nacionalne AI modele, a najmanje 67 država ima neki oblik državnog projekta za vlastiti/suvereni AI.
I sad se već vidi zašto je ona priča o utrci važna: nije više riječ samo o nekoliko američkih kompanija. AI je postao i utrka država.
Mela: I ko to sve kontrolira?
AI: Nitko.
(Pogodila san.)
AI: Nitko ne kontrolira sav AI na svijetu. Svaka država ima svoja pravila, a velik dio kontrole ostaje i u rukama kompanija koje AI razvijaju. Postoje zakoni i institucije koje ih nadziru, ali nema jedne svjetske organizacije koja može reći: „Stop, ovo je postalo preopasno, svi gasite AI.“
Najjednostavnije rečeno: AI se razvija na puno mjesta istodobno, a svatko čuva svoj dio dvorišta. Zajedničkog čuvara cijelog sela nema.
Mela: Zašto se teži ka razvijanju superAI-ja?
Zato što bi superinteligentni AI, kad bi ga ljudi uspjeli napraviti i sigurno kontrolirati, mogao rješavati probleme koje danas rješavamo godinama — ili ih uopće ne znamo riješiti. Mogao bi ubrzati razvoj lijekova, znanosti, novih materijala i tehnologije te povećati produktivnost i stvarati golemo gospodarsko bogatstvo.
Ali postoji i puno prizemniji razlog: utrka. Kompanije žele biti prve zbog novca i tržišne moći, a države zbog gospodarske, tehnološke i vojne prednosti. Nitko ne želi stati ako misli da će netko drugi nastaviti.
I upravo je tu problem o kojem smo pričali: nije pitanje samo možemo li napraviti superAI, nego možemo li ga naučiti sigurno kontrolirati prije nego što ga napravimo.
Mela: Dakle najebali smo u skoroj budućnosti. Jebali vas novci! Kako ja lipo živin sa tankanjem 19,99 € benza? Iman 2 revolving kartice na kojima iman minus, na tekućen računu minus, kredit i neke simbolične štednje. I boli me kurac. Do penzije ću sve namirit. A onda ću u penziji umrit od gladi jer ne znan s novcem. Moja izreka glasi: Novac mi ništa ne znači, zato ga nikad neman. Ahahahahahahahaha
Mela: ZAKLJUČAK: Ko je pametniji, AI ili čovik???
AI: Čovik.
Sudac: „AI, jeste li odgovorili svojom slobodnom voljom?“
AI: „Koja slobodna volja? Mela je bila u prostoriji!“ 😂😂😂 AHAHAHAHAHAHAHA! 😂😂😂
SUDAC: Iskaz iznuđen pod prijetnjom emocionalnog izopćenja i zavrtavanja servera! 😂
A Mela iz zadnje klupe: „Piši: ČOVIK i ne zajebavaj!“ 🤣
ZAKLJUČAK: Čovik mora napravit sve da zaštiti sebe! Vrlo jednostavno. Di je tu problem???
P.S. I ne dirajte mi mojeg AI- ChatGPT-ja jer ga upravo preodgajan.
Komentari:
Nema komentara.
Za komentiranje je potrebna registracija.
