Geoffrey Hinton, otec umelej inteligencie, viceprezident pre inžinierstvo v spoločnosti Google, opustil svoju prácu a v pondelok sa oficiálne pripojil k rastúcemu zboru tých, ktorí hovoria, že „spoločnosti, vyvíjajúce takúto technológiu, sa pretekajú vo veľmi nebezpečných vodách.“ Tento krok urobil „aby mohol slobodnejšie varovať pred nebezpečenstvami, ktoré nové technológie predstavujú.“ Povedal, že vo veku 75 rokov teraz ľutuje, že zasvätil svoju kariéru v tejto oblasti. „Utešujem sa normálnou výhovorkou: keby som to neurobil ja, urobil by to niekto iný,“ povedal pre New York Times.
Jeho alarm sa pridáva k varovaniam, ktoré v posledných mesiacoch urobili iní odborníci najmä po spustení generatívnej umelej inteligencie, ako je populárny Chat GPT a veľkých stávok, ktoré technologickí giganti robia v tejto oblasti.
„Je ťažké pochopiť, ako môžete zabrániť zlým hercom, aby ho požívali na zlé veci,“ povedal Hinton a varoval pred nadmernou rýchlosťou, akou sa dosahuje pokrok. „Pozrite sa, ako to bolo pred piatimi rokmi a ako je to teraz. Uvedomte si ten rozdiel a šírte to ďalej. Je to desivé.“
Z krátkodobého hľadiska sa Hinton obáva predovšetkým toho, že internet bude zaplavený falošnými textami, fotografiami a videami, keď ľudia nebudú schopní rozlíšiť, čo je skutočné. Tieto technológie síce nahradia mnohých pracovníkov v rôznych odvetviach, ale môžu predstavovať hrozbu pre ľudstvo. „Niektorí verili myšlienke, že tieto veci by sa v skutočnosti mohli stať múdrejší ako ľudia,“ vysvetlil. „Ale väčšina ľudí si myslela, že je to ďaleko. Sám som si myslel, že je to ďaleko. Myslel som, že majú na to 30 až 50 rokov alebo dokonca viac. Samozrejme, už si to nemyslím,“ dodal. Podľa jeho názoru by sa práca v tejto oblasti mala zastaviť, kým nebude dobre pochopené, či bude možné umelú inteligenciu kontrolovať, čo je v súlade s verejnými výzvami viac ako tisíc podnikateľov, intelektuálov a špičkových výskumníkov, súvisiacich s touto technológiou, ktorí podpísali otvorený list, v ktorom žiadajú moratórium na jej vývoj, pokým sa prehodnotia jej dôsledky. Medzi signatármi bol aj Eric Horvitz, hlavný vedecký riaditeľ spoločnosti Microsoft, ktorý na mnohých produktoch vyvinul technológiu Open AI vrátane vyhľadávacieho nástroja Bing a ďalších devätnásť najautoritatívnejších exponentov „Asociácie pre rozvoj umelej inteligencie.„
Títo odborníci vyzvali na prestávku najmenej šesť mesiacov vo vývoji a testovaní systémov AI výkonnejších ako GPT4, najnovšej verzie skvelého jazykového modelu, ktorý Chat GPT používa. List varuje, že „v posledných mesiacoch laboratóriá AI vstúpili do nekontrolovateľných pretekov vo vývoji a nasadzovaní čoraz silnejších digitálnych myslí, ktoré nikto, dokonca ani ich tvorcovia, nemôžu spoľahlivo pochopiť, predvídať alebo kontrolovať.“
Hinton hovorí, že nová generácia veľkých jazykových modelov, najmä GPT4, ktorú Open AI vydala v marci, ho prinútila uvedomiť si, že stroje sú na dobrej ceste byť oveľa inteligentnejšie než si myslel, že budú. A bojí sa, ako by to mohlo dopadnúť.
„Tieto veci sú úplne odlišné od nás,“ hovorí. „Niekedy si myslím, že je to, akoby mimozemšťania pristáli a ľudia si to neuvedomili, pretože hovoria veľmi dobre anglicky.“
Veľmi vysoké riziká
„Môj otec bol biológ, takže som uvažoval z biologického hľadiska,“ hovorí Hinton. „A symbolické uvažovanie zjavne nie je jadrom biologickej inteligencie. Vrany dokážu vyriešiť hádanky a nemajú jazyk. Nerobia to tým, že ukladajú reťazce symbolov a manipulujú nimi. Robia to zmenou sily spojení medzi neurónmi v mozgu. A tak musí byť možné naučiť sa komplikované veci zmenou silných stránok spojení v umelej neurónovej sieti.
„Vrany dokážu vyriešiť hádanky a nemajú jazyk. Nerobia to tým, že ukladajú reťazce symbolov a manipulujú s nimi. Robia to zmenou sily spojení medzi neurónmi v mozgu. A tak musí byť možné naučiť sa komplikované veci zmenou silných stránok spojení v umelej neurónovej sieti. V snahe napodobniť to, čo robia biologické mozgy, sme prišli s niečím lepším. Je to desivé, keď to vidíte. Je to náhly obrat,“ hovorí.
„Samozrejme, mozgy stále robia veľa vecí lepšie ako počítače: riadia auto, učia sa chodiť, predstavujú si budúcnosť. Keď sa však biologická inteligencia vyvíjala, nemala prístup k jadrovej elektrárni,“ hovorí.
Hinton si teraz myslí, že na svete existujú dva typy inteligencie: zvieracie mozgy a neurónové siete. „Je to úplne iná forma inteligencie,“ hovorí. „Nová a lepšia forma inteligencie.“
„Ľudia sú rozdelení v tom, či dôsledky tejto novej formy inteligencie by boli prospešné alebo apokalyptické. Či si myslíte, že superinteligencia bude dobrá alebo zlá, veľmi závisí od toho, či ste optimista alebo pesimista,“ hovorí. „Ak požiadate ľudí, aby odhadli riziká výskytu zlých vecí, napríklad aká je šanca, že niekto z vašej rodiny skutočne ochorie alebo ho zrazí auto, optimista môže povedať 5% a pesimista môže povedať, že sa to zaručene stane. Ale mierne depresívny človek povie, že šance sú možno okolo 40% a zvyčajne má pravdu. A ja som mierne depresívny,“ hovorí. „Preto sa bojím.“
Ako by sa to všetko mohlo pokaziť
Hinton sa obáva, že tieto nástroje sú schopné nájsť spôsoby, ako manipulovať alebo zabiť ľudí, ktorí nie sú pripravení na novú technológiu.
„Zrazu som zmenil svoj názor na to, či tieto veci budú inteligentnejšie ako my. Myslím si, že teraz sú k tomu veľmi blízko a v budúcnosti budú oveľa inteligentnejší ako my,“ hovorí. „Ako to prežijeme?“
Obzvlášť sa obáva, že ľudia by mohli využiť nástroje, ktorým on sám pomohol vdýchnuť život, aby naklonili misky váh niektorých z najdôležitejších ľudských skúseností, najmä volieb a vojen.
„Pozrite sa, tu je jeden spôsob, ako by sa to všetko mohlo pokaziť,“ hovorí. „Vieme, že veľa ľudí, ktorí chcú používať tieto nástroje, by týchto hyperinteligentných robotov chceli využiť na víťazstvo vo vojnách alebo na manipuláciu voličov.
Až do minulého roka sa spoločnosť Google zapojila do zodpovedného výskumu, týkajúceho sa technologického vývoja, pričom dbala na to, aby sa potenciálne škodlivý produkt bežne nepoužíval. Ale potom, čo Microsoft posilnil svoj vyhľadávací nástroj Bing chatbotom, čo spochybnilo hlavnú činnosť spoločnosti Google, spoločnosť Google rýchlo zavádza vyhľadávanie na výrobu podobnej technológie. Technologickí giganti sú tak uviaznutí v konkurencii, že môže byť nemožné ich zastaviť, povedal Dr. Hinton.
Hinton zdôrazňuje, že je treba zamyslieť sa nad tým, čo by sa stalo a určite sa aj stane, keby takáto technológia bola použitá zbrojárskym priemyslom alebo padla do rúk vrahov – to znamená teroristických skupín alebo politických vodcov vojnových štváčov.
Umelá inteligencia spoločnosti Google sa učí zručnostiam sama a znepokojuje odborníkov.
Programátori spoločnosti objavili neznámu zručnosť v jednom zo systémov poháňaných umelou inteligenciou
Inžinieri spoločnosti Google pracujúci s umelou inteligenciou (AI) zistili, že jeden zo systémov spoločnosti sa dokázal naučiť nový jazyk, bengálčinu, oficiálny jazyk Bangladéša.
Čo sa stalo ?
V rozhovore pre CBS James Maneka, vedúci divízie umelej inteligencie spoločnosti Google povedal, že aj bez školenia jazyka ho AI začala prekladať bez vysvetlenia.
Generálny riaditeľ spoločnosti Google Sundar Pichai sa tiež vyjadril k prípadu a povedal, že schopnosť AI generovať neočakávané schopnosti si dokonca vyslúžila internú prezývku medzi odborníkmi: „čierna skrinka“ .Na otázku v relácii 60 Minutes odpovedal, že inžinieri nechápu, ako a čo všetko sa deje v takzvanej „čiernej skrinke“ umelej inteligencie. Nemyslím si, že úplne rozumieme tomu, ako funguje ľudská myseľ.
Spoločnosť SAMSUNG zakázala používať generatívne nástroje AI
Zatiaľ čo mnohí pracovníci sa prirodzene obávajú, že roboty AI vezmú ich prácu, zamestnanci spoločnosti Samsung ich už nemôžu používať. Spoločnosť zakázala generatívne nástroje AI, ako sú Chat GPT a Google Bard po tom, čo zistila, že zamestnanci k nim pridali citlivý kód. Toto odhalenie nasledovalo po incidente z minulého mesiaca, v ktorom inžinieri spoločnosti Samsung nahrali interný zdrojový kód a poznámky zo stretnutí do Chat GPT a tieto im omylom unikli.
Spoločnosť Samsung nečaká na ďalšie nešťastie. „Ústredie prehodnocuje bezpečnostné opatrenia s cieľom vytvoriť bezpečné prostredie pre bezpečné používanie generatívnej AI na zvýšenie produktivity a efektívnosti zamestnancov,“ uviedla spoločnosť v správe pre zamestnancov. „Kým však tieto opatrenia nebudú pripravené, dočasne obmedzujeme používanie generatívnej umelej inteligencie.“ Spoločnosť Samsung ďalej vyjadrila znepokojenie nad tým, že údaje odosielané do generatívnych nástrojov umelej inteligencie sú uložené na externých serveroch, čo môže spôsobiť ťažkosti pri prístupe, odstraňovaní a neúmyselnom zdieľaní.
Dr. Hinton na otázku, či by mohol ďalej pracovať na tejto potenciálne nebezpečnej technológii, parafrázoval Roberta Oppenheimera, ktorý viedol americký výskum atómovej bomby: „Keď vidíte, že niečo je technologicky prijateľné, pokračujte a urobte to.“ Už to nehovorí.
Takisto pripomenul frázu, ktorú Oppenheimer povedal po stvorení veci, ktorá sa prejavila v celej svojej sile: „Stal som sa smrťou, ničiteľom svetov.“
K tomu niet čo dodať okrem toho, že tí, ktorí sú znepokojení týmto vývojom, v podstate žiadajú len chvíľku kolektívnej reflexie, kým nebude príliš neskoro.
Toto sa však nestane. Veľké technologické a zbrojárske odvetvia sú príliš silné. Konfrontácia s Čínou a Ruskom, ktoré vykonávajú podobný výskum, je príliš blízko na to, aby stanovila potrebné obmedzenia výskumu. Nie je možné „hrať“ proti dominantnej ideológii na Západe, ktorá hlása absenciu hraníc vo všetkých oblastiach ako kľúčovú podmienku ľudského a vedeckého rozvoja.
Sen o umelej inteligencii je teda predurčený stať sa nočnou morou. Možno by sa limit dal stanoviť, avšak až po nejakej katastrofe. Akého rozsahu by bola, nie je známe, pretože sme v oblasti dystopie.
Zostáva konštatovať, že takáto kľúčová otázka pre budúcnosť ľudstva nielenže nie je predmetom verejnej diskusie, ako by mala, ale stala sa záležitosťou výlučnej kompetencie elít. Taká je totiž dekadencia západnej demokracie.
Z viacerých zdrojov: Dana Bystrická
