Umelá inteligencia v posledných rokoch výrazne pokročila, a preto sa dnes diskutuje nielen o jej praktickom využití, ale aj o jej dlhodobých dôsledkoch. Výrazy ako AGI (umelá všeobecná inteligencia, niekedy označovaná aj ako všeobecná univerzálna inteligencia) či „superinteligencia“ sa v minulosti objavovali prevažne v akademických textoch alebo v science fiction. Dnes sú však súčasťou serióznych debát, ktoré nevedú len futuristi a vizionári, ale aj vývojári, firmy a zákonodarcovia.
Smerovanie k jedinej konečnej AGI a technologická singularita ako bod zlomu v dejinách idú ruka v ruke. Dosiahnutie jedného pravdepodobne sprevádza príchod druhého. Nie je to však ani isté, ani jednoduché – a práve preto by ste o tom mali vedieť viac.
Umelá inteligencia sa vyvíja závratným tempom a už dávno neslúži len na rozpoznávanie tvárí či automatické odpovede. Dnešné multimodálne systémy dokážu písať texty, programovať aj generovať obrázky – a zvládajú to čoraz lepšie. S tým prichádza otázka, kam až môže tento vývoj zájsť. Jednou z možných odpovedí je takzvaná technologická singularita.
Tento pojem označuje bod v dejinách ľudstva, keď sa tempo technologického pokroku stane nekontrolovateľným a nepredvídateľným – typicky v dôsledku vzniku superinteligencie. Zatiaľ ide o hypotetický scenár, v ktorom umelá inteligencia dosiahne úroveň, pri ktorej bude schopná vylepšovať samú seba bez zásahu človeka. A práve to je kľúčový aspekt. Takýto vývoj by mohol spustiť reťazec exponenciálnych zmien, na ktoré nie je súčasná spoločnosť pripravená.
Téma singularity nie je nová, no s nástupom pokročilých AI modelov sa opäť dostáva do centra pozornosti. V tomto článku sa pozrieme na to, prečo je umelá inteligencia považovaná za hlavného kandidáta na spustenie singularity, aké predpoklady by na to museli byť splnené a nakoľko je tento scenár reálny.
Žiadna iná technológia neprešla v posledných rokoch takým rýchlym vývojom ako umelá inteligencia. Zatiaľ čo pokrok v oblastiach, ako sú biotechnológie či robotika, býva väčšinou lineárny, AI napreduje skokovo. S každou generáciou modelov pribúda nielen výkon, ale aj schopnosti, ktoré boli ešte donedávna považované za výlučne ľudské.
Zásadná zmena spočíva v tom, že moderná umelá inteligencia už nie je len nástroj, ktorý plní vopred zadané príkazy. Niektoré systémy sa dokážu samy zlepšovať – napríklad tým, že vyhodnocujú, čo funguje lepšie, a podľa toho upravujú svoje správanie. Tento princíp sa uplatňuje napríklad pri tzv. učení posilňovaním, kde sa algoritmus učí metódou pokus – omyl, alebo pri automatizovanom navrhovaní nových modelov, keď jedna AI pomáha vytvárať vylepšené verzie ďalšej AI.
Ide o prvé náznaky toho, že umelá inteligencia môže do určitej miery hľadať vlastné cesty, ako zvýšiť svoj výkon – a to bez nutnosti priameho zásahu človeka. Tieto tendencie už pozorujeme aj v praxi. Modely ako ChatGPT-4o, Claude 3 Opus, Gemini 1.5 či Perplexity AI ukazujú, že súčasná AI zvláda nielen odpovedať na otázky, ale aj analyzovať dáta, tvoriť kód, rozumieť obrázkom či obrazu z kamery v reálnom čase, vylepšovať vlastný prompt a pracovať s komplexnými vstupmi. Niektoré systémy navyše dokážu kombinovať vstupy z viacerých modalít – napríklad obraz, zvuk a text – a začínajú sa približovať tomu, čo by sme mohli nazvať univerzálnym digitálnym asistentom.
i
Mohlo by vás zaujímať
Ak sa schopnosť sebavylepšovania rozšíri a zefektívni, vznikne takzvaná spätná slučka: AI navrhne novú AI, ktorá bude ešte výkonnejšia. Tento mechanizmus by mohol spustiť reťazovú reakciu, v ktorej každá generácia vytvorí ešte lepších nástupcov – a to tempom, ktorému ľudia nebudú schopní konkurovať a stanú sa len pozorovateľmi. Práve tento princíp samoakcelerácie sa považuje za jadro technologickej singularity.
Nie je však dôvod na paniku ani na to, aby sme hneď googlili výrazy typu „Čo robiť, keď žijem v epizóde Black Mirror?“. Z pohľadu súčasnosti k finálnemu štádiu stále chýba niekoľko kľúčových krokov – najmä príchod už spomínanej všeobecnej univerzálnej inteligencie (AGI) a schopnosť dlhodobého plánovania. Smer vývoja však naznačuje, že AI má potenciál sa týmto schopnostiam v dohľadnej dobe reálne priblížiť. Rámcovo ide skôr o roky než o desaťročia.
Keď sa hovorí o superinteligencii, väčšina ľudí si predstaví humanoidného robota – stroj, ktorý nielen myslí, ale aj chodí, hovorí a koná ako človek. V praxi je však otázka fyzickej formy v scenári singularity sporná. Technologická singularita totiž nemusí nutne znamenať, že AI ovládne svet fyzicky. Stačí, ak ho začne ovplyvňovať rýchlejšie a efektívnejšie než ľudia. Myseľ – hoci digitálna – môže byť viac než telo.
Umelá inteligencia už dnes zasahuje do fyzického sveta prostredníctvom robotických ramien vo výrobe, samoriadiacich vozidiel či diaľkovo riadených dronov. Ovplyvňuje aj ekonomiku, logistiku, financie či komunikáciu – a to bez toho, aby mala „telo“ v ľudskom zmysle. Teoreticky by teda na dosiahnutie singularity stačila čisto softvérová entita, ktorá má prístup k internetu, databázam a ďalším technológiám.
Napriek tomu vývoj fyzických foriem AI pokračuje. Projekty ako Tesla Optimus, robot Figure 1 či humanoidné stroje od Boston Dynamics ukazujú, že vývojári mieria aj týmto smerom. Zatiaľ však platí, že úroveň motoriky, koordinácie a adaptácie v reálnom prostredí zaostáva za mentálnymi schopnosťami digitálnych modelov.
Z pohľadu singularity teda „telo“ nie je nevyhnutnou podmienkou. Oveľa dôležitejšia je schopnosť AI samostatne rozhodovať, učiť sa a riadiť iné systémy – a to už dnes niektoré modely zvládajú pomerne dobre.
Myšlienka singularity vyvoláva silné reakcie – od nadšenia cez zvedavosť až po skepsu. Niektorí odborníci veria, že je to len otázka času. Napríklad renomovaný futurológ Ray Kurzweil predpokladá, že superinteligencia vznikne do roku 2045. Iní, vrátane niektorých výskumníkov v oblasti strojového učenia, považujú tento scenár za prehnaný alebo príliš špekulatívny.
Vývoj AI zatiaľ prebieha rýchlo, no v istom zmysle nerovnomerne. Zatiaľ čo v oblasti generatívnych modelov dochádza k pokroku takmer každý rok, iné oblasti – napríklad schopnosť plánovania, zdravého úsudku či porozumenia kontextu – sa vyvíjajú pomalšie. Dôvodom je najmä to, čo požaduje trh a čo je kľúčové pri komunikácii s používateľom. Ďalším limitujúcim faktorom je energetická náročnosť: trénovanie najpokročilejších modelov si vyžaduje masívnu výpočtovú infraštruktúru a značné množstvo energie. AGI by pravdepodobne potrebovala rozsiahle dátové centrá a stabilný energetický zdroj – ak by sama okamžite neprišla na spôsob, ako zvýšiť svoju energetickú a infraštruktúrnu efektivitu.
Na dosiahnutie singularity by teda bolo potrebné vyriešiť niekoľko zásadných problémov:
Otázkou zostáva, kto bude mať nad týmto vývojom kontrolu. Aj keby bola singularita technicky možná, nie je jasné, či by sa jej nástup dal regulovať – alebo či by sa nevymkla ľudskému dohľadu. Ďalšou otázkou je, či by jej príchod – ak by vznikla z konkrétneho modelu jednej firmy – dokázali ostatné spoločnosti napodobniť, a či by sa tak neobjavilo viac konkurenčných modelov superinteligencie.
Ak by k technologickej singularite skutočne došlo, znamenalo by to, že najvýkonnejšia inteligencia na planéte už nebude ľudská. Vznikla by tým úplne nová situácia, na ktorú nie sú pripravené technologické firmy, štáty ani bežní používatelia. Otázka neznie len „čo bude AI vedieť“, ale aj „aký bude mať cieľ“ a „kto ju bude riadiť“.
Rozumné je dúfať, že vývojári budú až do momentu singularity ctiť aspoň rámcové etické zásady – napríklad slávne Asimovove zákony robotiky. Tieto tri pravidlá, formulované už v roku 1942, síce nevznikli ako reálny návod na programovanie, ale ako filozofický kompas: inteligentná entita nesmie ublížiť človeku, musí poslúchať jeho príkazy (pokiaľ nie sú v rozpore s ochranou človeka) a má chrániť samú seba len do tej miery, aby tým neohrozila prvé dva princípy. Nahradením slova „robot“ z pôvodných zákonov slovom „entita“ dostávame rámec, ktorý je dodnes prekvapivo aktuálny.
Veľkým problémom súčasných systémov je ich netransparentnosť. Aj pri dnešných modeloch typu GPT často nevieme, prečo zvolili určitú odpoveď. Ide o koncept tzv. black boxu – vývojári nevidia „pod kapotu“ softvéru a nemôžu presne sledovať jeho rozhodovacie procesy. Čím komplexnejšia bude umelá inteligencia, tým menej zrozumiteľná bude aj jej logika. A ak sa začne sama zlepšovať, môžu ľudia postupne strácať schopnosť ju predikovať či ovládať.
Niektorí odborníci preto volajú po tzv. alignmente – teda zladení cieľov umelej inteligencie s ľudskými hodnotami. Lenže práve ľudské hodnoty nie sú univerzálne: často sú nejednoznačné, premenlivé, kultúrne odlišné alebo si priamo odporujú. A tak sa snažíme vyvinúť systém, ktorý bude nielen múdrejší, ale aj etickejší než ľudia sami. Teoreticky to nie je nemožné – už dnes niektoré AI reagujú na morálne dilemy citlivejšie než bežný človek. Zostať pritom stabilný, spoľahlivý, výkonný a zároveň bezpečný však bude extrémne náročné.
Riziká spojené so singularitou nie sú iba technické či etické – ide aj o otázku globálnej moci. Kto získa prístup k najvýkonnejšej umelej inteligencii, bude mať zásadnú výhodu: ekonomickú, vojenskú aj strategickú. Už dnes sledujeme súperenie medzi Spojenými štátmi a Čínou v oblasti vývoja pokročilých čipov, dátových centier, cloudovej infraštruktúry a AI modelov.
Americké firmy ako OpenAI, Anthropic, Google či Meta majú náskok vo vývoji jazykových modelov a AI nástrojov, no zároveň silne závisia od hardvéru niekoľkých kľúčových dodávateľov – predovšetkým od spoločnosti NVIDIA, ktorá sa vďaka tomu stáva technologickým gigantom s obrovskou trhovou kapitalizáciou. Čína sa naopak snaží vybudovať vlastný uzavretý ekosystém a dohnať náskok Západu prostredníctvom štátnych investícií a centrálnej podpory firiem ako Baidu, Alibaba či Huawei.
Európska únia sa medzitým profiluje ako globálny regulátor prostredníctvom legislatívy, ako je AI Act, ktorý kladie dôraz na etiku, transparentnosť a bezpečnosť. Tento prístup však zároveň znamená, že európske firmy zatiaľ nepatria medzi technologických lídrov v oblasti najpokročilejšej umelej inteligencie.
i
Európska únia v júli 2025 predstavila EÚ AI Code of Practice – prvý dobrovoľný súbor zásad správania pre poskytovateľov veľkých AI modelov. Tento etický rámec stanovuje ucelené požiadavky na transparentnosť, bezpečnosť a rešpektovanie autorských práv, pričom jeho dodržiavanie by firmám malo priniesť nižšiu administratívnu záťaž a vyššiu mieru právnej istoty – okrem iného vďaka tomu, že umožní lepšiu prípravu na budúcu záväznú reguláciu. Zároveň ovplyvní podobu chystaného AI Actu, ktorý má vstúpiť do platnosti v auguste 2026.
Dobrovoľný kódex tak slúži ako prechodné riešenie – firmám poskytuje jasnejšiu predstavu o tom, akým smerom sa regulácia EÚ bude uberať. Jeho samotný vznik však vzbudil kritiku, najmä zo strany európskych korporácií. Paradoxne, technologickí giganti z USA kódex (až na výnimky) podporili, čo na prvý pohľad pôsobí prekvapivo a vyvoláva otázky, komu regulácia v skutočnosti nahráva.
Kódex aj AI Act v praxi dohliadajú a vymáhajú národní regulátori (napríklad Úrad na ochranu osobných údajov (ÚOOÚ) v Slovenskej republike), ktorí riešia bežné kontroly a sťažnosti. Na európskej úrovni potom pôsobí Európsky AI Office (EAO), ktorý koordinuje pravidlá, zjednocuje výklad sporných požiadaviek a nastavuje štandardy. Tým významne ovplyvňuje konkurenčné prostredie naprieč celou Európskou úniou.
Kódex vyvolal protichodné reakcie. Na prvý pohľad prekvapí vrelé prijatie zo strany amerických firiem ako OpenAI či Microsoft, ktoré oceňujú väčšiu právnu istotu a transparentnosť. Oproti tomu európske spoločnosti – vrátane firiem ako Airbus, Philips alebo Mercedes-Benz – kritizujú, že nové pravidlá prinášajú nadmernú byrokraciu a komplikujú ich podnikanie.
Jedným z hlavných bodov kritiky je práve otázka právnej istoty. Kódex síce požaduje vysokú úroveň transparentnosti (napríklad zverejňovanie informácií o použitých dátach alebo opatreniach proti rizikám), formálne však nenúti firmy odhaľovať obchodné tajomstvá. Napriek tomu niektoré spoločnosti upozorňujú, že hranica medzi „dostatočnou transparentnosťou“ a ohrozením kľúčových interných informácií je nejasná a môže sa meniť v závislosti od výkladu regulátora. Táto neistota vo výklade tak môže paradoxne narušiť právnu istotu, ktorú mal Kódex priniesť.
Kódex zaväzuje firmy ku kontrole legálnosti použitých dát a ochrane duševného vlastníctva, avšak táto požiadavka sa vzťahuje predovšetkým na nové a budúce modely či aktualizácie. V praxi to znamená, že spoločnosti, ktoré už vyvinuli rozsiahle modely na základe veľkého množstva dát, nie sú nútené spätne preverovať každý použitý zdroj. Noví hráči však musia pravidlá naplniť od začiatku, čo môže ďalej upevniť pozíciu súčasných dominantných firiem a sťažiť vstup konkurencii.
Vzniká tak paradoxná situácia: americkí lídri trhu lobujú za prísnejšiu reguláciu, zatiaľ čo európske korporácie ju vnímajú negatívne. Podľa niektorých analytikov (napríklad komentár CSIS, 2025) môže Kódex v praxi slúžiť ako príklad tzv. „dobývanie renty“ – teda snahy vytvoriť umelé administratívne bariéry, ktoré zvýhodňujú zavedených hráčov a komplikujú vstup novým firmám.
Okrem sprísnenia ochrany duševného vlastníctva, ktoré sa nebude uplatňovať spätne (čo ocenia najmä tí, ktorí majú už vytrénované modely), predstavuje riziko povinnosť signatárov preukázať, že majú zavedený rámec pre identifikáciu, monitorovanie a minimalizáciu bezpečnostných a spoločenských rizík AI – napríklad deepfakes, škodlivého obsahu alebo šírenia dezinformácií. Súčasťou požiadaviek je aj pravidelné testovanie (po každej významnejšej aktualizácii).
Kódex síce výslovne neukladá povinnosť najímať nových zamestnancov alebo investovať do novej infraštruktúry, akákoľvek nová povinnosť však so sebou nesie dodatočné náklady. Pre veľkých hráčov pôjde o relatívne zanedbateľné čiastky v kontexte ich obratu. Naproti tomu začínajúce start-upy – aj napriek miernejším regulačným podmienkam – budú čeliť výrazne vyšším relatívnym nákladom a s tým spojeným podnikateľským rizikám.
Zdroje:
Vznik superinteligencie by mohol túto nerovnováhu ešte viac prehĺbiť. Ak by niektorý štát alebo technologická firma ako prvá vytvorila skutočnú všeobecnú umelú inteligenciu (AGI), mohla by tým získať prevahu, ktorá by zmenila pravidlá hry nielen v ekonomike, ale aj v geopolitike a oblasti obrannej bezpečnosti. Singularita by sa tak mohla stať bodom zlomu aj na medzinárodnej scéne – s dôsledkami, ktoré dnes nemožno predvídať.
Singularitu možno prirovnať k objavu ohňa. Umelá inteligencia je – podobne ako plameň – dobrý sluha, ale môže byť aj zlý pán.
i
Mohlo by vás zaujímať
Technologická singularita zatiaľ zostáva hypotetickým scenárom, no jej základy sa možno formujú už dnes. Umelá inteligencia sa zrýchľuje, rozširuje svoje schopnosti a preniká do oblastí, ktoré boli donedávna výlučne doménou ľudí. A hoci sme zatiaľ nedosiahli bod, v ktorom by sa AI dokázala zlepšovať úplne bez zásahu človeka, smer vývoja je zrejmý. Či k singularite skutočne dôjde, kedy a za akých podmienok, dnes nikto s istotou nevie. Isté však je, že čoraz väčšiu časť budúcnosti budeme zdieľať s technológiou, ktorá sa bude učiť, vyvíjať – a možno aj rozhodovať za nás. Práve preto je dôležité tomuto vývoju porozumieť skôr, než bude neskoro.
Peter Vnuk
Technológie sú pre mňa prácou aj zábavou – najviac sa venujem smartfónom, notebookom, audiotechnike, umelej inteligencii a všetkému hi-tech. Rád recenzujem novinky, sledujem futuristické trendy a odhadujem ďalší vývoj technológií. Fascinuje ma sci-fi a vízie budúceho sveta, ktoré často inšpirujú reálny technologický pokrok. Profesionálne sa venujem aj videohrám a hernému priemyslu. Keď práve nepracujem, rád si odpočiniem pri dobrej hre, kvalitnom pive alebo tvorbe technologických memes na Facebooku.
