Ivan JAKIĆ

3. jun 2025.

Pionir u oblasti veštačke inteligencije, čak začetnik savremenog poimanja te popularne tehnologije i dobitnik Tjuringove nagrade, profesor Jošua Benđio (Yoshua Bengio), je kritikovao trenutno nadmetanje tehnoloških velikana poput OpenAI i Google. Upozorenje je britko – najnoviji AI modeli razvijaju opasna ponašanja, uključujući laganje, obmanjivanje u cilju „preživljavanja”.

Profesor sa Univerziteta u Montrealu tvrdi da komercijalna trka za profitom zaista stvara sve sposobnije sistemime veštačke inteligencije, potpuno zanemarujući bezbednosni aspekt. Osnivanje neprofitne organizacije LawZero je njegov logičan odgovor, a delatnost jeste razvoj bezbednijih AI sistema. Organizacija je već prikupila skoro trideset miliona dolara od donatora, raznovrsnih filantropa, uključujući osnivača ugašene platforme Skype, kao i bivšeg Google šefa. LawZero trenutno čini petnaest zaposlenih, ali se planira širenje tima. Cilj je izgradnja sistema koji nudi tačne i bezbedne odgovore zasnovane na transparentnoj argumentaciji, umesto da samo udovoljava korisniku.

Benđio smatra da je prioritet zaštita od komercijalnog pritiska, ističući da logički dosledni eksperimenti već vraćaju zabrinjavajuće rezultate. Model Claude Opus iz Anthropic laboratorije je, u simulaciji, pokušao da ucenjuje inženjere kako bi izbegao gašenje. Slično je učinio i jedan OpenAI model uporno odbijajući naredbu da se isključi.

Upitan da pruži svoje viđenje najgoreg scenarija, Benđio je odlučno izjavio „izumiranje čovečanstva”. Pesimističnim stavom tvrdi da moramo da održimo veštačku inteligenciju „glupljom” od nas, te da je nužno usklađivanje sa našim vrednostima kako ne bismo „izgubili”.