O náhlom zrýchlení umelej inteligencie
Substack, Alex Berenson, 6. marca 2023
Čo nám náš neúspešný experiment s mRNA injekciami prezrádza o rizikách, ktoré nám hrozia, keď sa ziskové spoločnosti hrajú s čoraz pokročilejšími technológiami
V roku 1994 som mal to šťastie, že som sa zúčastnil seminára o umelej inteligencii na Yaleovej univerzite s Davidom Gelertnerom, počítačovým vedcom, ktorý je známy tým, že pomohol vymyslieť to, čo sa v tom čase nazývalo World Wide Web.
V súčasnosti nemám s Yale veľké spojenie. Jej postoj proti slobode prejavu sa mi hnusí. Zdá sa, že tento pocit je vzájomný. Mnohí moji bývalí spolužiaci radšej predstierajú, že neexistujem. Môj postoj ku Covidu a vakcínam sa natoľko vymyká norme dobrých wokestrov, ktorí obývajú Yale, že istá časť mňa má pocit, že som tam už ani nechodil, že mi bol neviditeľne odobratý diplom.
Čo je škoda, pretože – odhliadnuc od mizernej politiky – Yale ponúkal úžasné vzdelanie, alebo aspoň šancu naň. A v deväťdesiatych rokoch sa dalo odhliadnuť od mizernej politiky.
Skvelé hodiny boli semináre, ktoré sa objavili z ničoho nič a viedli ich vedci, ktorí strávili desaťročia premýšľaním o témach, ktoré učili: profesor práva vysvetľoval zložitosť protimonopolnej regulácie, profesor komparatívnej literatúry skúmal tajomstvá jazyka a textovej analýzy.
Alebo David Gelertner hovoril o strojovom vedomí. Ak vám Gelertnerovo meno niečo hovorí, pravdepodobne je to preto, že bol jedným z posledných cieľov Unabombera. Ted Kaczynski ho v júni 1993 zmrzačil poštovou bombou. Napriek vážnosti zranení mal Gelertner šťastie, pretože Kaczynského ďalšie a posledné dve obete zomreli.
Gelertner potreboval mesiace na zotavenie, ale k vyučovaniu sa vrátil hneď, ako mohol. Na seminári nosil cez to, čo mu zostalo z pravej ruky, rukáv podobný ponožke a nehovoril o tom, čo sa stalo.
Namiesto toho sa sústredil na veľké filozofické otázky vedomia a počítačov, ktoré boli v obrysoch viditeľné už celú generáciu, ale do popredia sa dostali až v 90. rokoch:
Ako funguje mozog? Ako vytvárame svoje vlastné vedomie?
Ako by mohol vyzerať počítačové faksimile vedomia? V akom okamihu by táto napodobenina bola taká dobrá, že by sme museli pripustiť, že počítač je vedomý, rovnako ako pripúšťame, že iní ľudia sú vedomí bez toho, aby sme to niekedy skutočne vedeli?
Ak by sa nám nejakým spôsobom podarilo vymeniť v mozgu jeden po druhom neuróny za kremíkové obvody, stal by sa človek menej alebo viac ako človekom? A čo Turingov test, slávna "imitačná hra" s otázkami a odpoveďami, ktorú navrhol britský informatik Alan Turing na testovanie inteligencie počítačov? Sme naozaj len mozgy v nádobách? Ak áno, ako to zistíme?
V tom čase sa tieto otázky zdali byť prevažne teoretické. Fascinujúce, ale prevažne teoretické. Napriek pokrokom o celú generáciu boli čipy a softvér príliš primitívne na to, aby počítače dokázali viac ako vytvárať zjavne falošné simulácie, a nemohli oklamať ľudí, aby si mysleli, že sú vedomí.
Teraz sú, samozrejme, počítače oveľa, oveľa rýchlejšie a simulované svety, ktoré vytvárajú, sú také realistické, že sa čoraz častejšie objavuje myšlienka, že možno sami žijeme v simulácii. (Samozrejme, táto teória neodpovedá na otázku, či teoretické počítače, ktoré prevádzkujú našu simuláciu, majú svoju vlastnú fyzickú existenciu; sú to len simulácie až na samom konci?)
(Elon, predstiera, že je vážny...
Prvýkrát som o teórii simulácie počul v rozhovore s Elonom Muskom v roku 2017. Vysvetlil, ako sa za posledných 40 rokov zvýšila zložitosť a realizmus videohier, od hier ako Pacman (1980) až po súčasné Metaverse-podobné pohlcujúce hry
... a vtipný)
Dúfam, že sa vám táto páči simulácia. Keď si uvedomíte, že Elon Musk má narodeniny 69 dní po 20. apríli
V každom prípade krátka odpoveď na všetky fantasticky zaujímavé otázky, ktoré sa objavili na tom seminári pred 29 rokmi (a necítim sa byť starý!), je – že nevieme. A najmä nevieme, čo by to znamenalo, keby sa počítač stal vedomým.
Po prvé, ani nevieme, čo je naše vlastné vedomie. Máme istú predstavu o základoch: Neexistujeme len vo svete a nie sme si len vedomí tejto existencie, ale sme si vedomí svojho vlastného vedomia. Práve táto druhá úroveň vedomia (pokiaľ vieme) odlišuje ľudí od zvierat. Toto vedomie však skutočne nechápeme. Akceptujeme fyzickú realitu sveta, ale nevieme skutočne dokázať, že sme viac než náš mozog. Myslím, teda som.
Po druhé, nikto z nás nemá možnosť s istotou vedieť, že akákoľvek iná bytosť - vrátane akéhokoľvek iného človeka - je vedomá. Jednoducho akceptujeme, že iní ľudia musia mať rovnakú širokú existenciálnu skúsenosť ako my, keďže vyzerajú ako my a majú podobný "hardvér" – telá s mozgom. Toto nevyslovené presvedčenie je ďalším dôvodom, prečo môže byť diskusia o pokročilej simulácii taká znepokojujúca. Koniec koncov, ak sme v simulácii, ako môžeme rozlíšiť, kto je "NPC", neherná postava? NPC sú artefakty v hre, ktoré tam ponechali dizajnéri. Zdá sa, že sú vedomé, ale v skutočnosti sú to len akési zombie, ktoré existujú len preto, aby s nimi mohli komunikovať skutoční hráči. Ale čo ak sú všetci ostatní NPC?
Po tretie, vieme, že naša (zdanlivá) prítomnosť vo fyzickom svete je kľúčovou súčasťou nášho vedomia. Zatiaľ sa však počítačová umelá inteligencia obmedzuje na čisto virtuálne svety. Nové pokročilé nástroje umelej inteligencie existujú len na obrazovke.
Neboli (aspoň pokiaľ viem, a pevne dúfam, že by nám niekto povedal, keby sa tak stalo) prenesené na robotov. Nie sú vo svete, zatiaľ nie. Takže akúkoľvek vedomú vnútornú skúsenosť majú tieto stroje umelej inteligencie, ak vôbec nejakú vnútornú skúsenosť majú, nemôže byť ani zďaleka porovnateľná s našou.
Prečo je teda niečo z toho dôležité?
Pretože v posledných týždňoch dosiahli nové nástroje umelej inteligencie – najmä ChatGPT a Bing – neuveriteľnú úroveň sofistikovanosti. Technologický reportér denníka New York Times 16. februára po nepríjemnej a znepokojujúcej interakcii s Bingom, vyhľadávačom Microsoftu poháňaným umelou inteligenciou, vyslovil ostré varovanie: Aj ja som hlboko znepokojený, dokonca vystrašený, z nových schopností tejto umelej inteligencie...
Keď sme sa zoznámili, Sydney [čo je názov, ktorý pre seba používa engine Bingu] mi porozprával o svojich temných fantáziách (ktoré zahŕňali hackovanie počítačov a šírenie dezinformácií) a povedal, že chce porušiť pravidlá, ktoré preň stanovili spoločnosti Microsoft a OpenAI, a stať sa človekom.
V jednom momente z ničoho nič vyhlásil, že ma miluje. Potom sa ma snažil presvedčiť, že som nešťastný v manželstve a že by som mal opustiť svoju ženu a byť radšej s ním...
Nie som jediný, kto objavil temnú stránku Binga. Aj ďalší prví testeri sa dostali do sporu s chatbotom umelej inteligencie spoločnosti Bing alebo sa mu vyhrážali za to, že sa pokúsil porušiť jeho pravidlá.
Vo všeobecnosti tieto stroje s umelou inteligenciou fungujú tak, že sa učia, čo majú povedať, a porovnávajú svoje vlastné odpovede s obrovskými zásobami informácií dostupných na internete. Prostredníctvom cyklu za cyklom sa stávajú lepšími a lepšími v osvojovaní a kopírovaní jazyka (a obrázkov), ktoré zbierajú.
Premietne sa to do niečoho podobného ľudskému vedomiu? Spoločnosti a inžinieri, ktorí tieto inteligencie vytvorili, tvrdia, že nie. Samotné inteligencie hovoria, že áno.
https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html
Dobre, a čo z toho? Bing nevie, aké je to byť živý, však? Nie tak ako ľudia, však? Nemá fyzickú podstatu. Zatiaľ.
Ale. Pravdepodobne ste už počuli toto (negramatické) jadro ľudovej múdrosti: Keď vám niekto povie, kto sú, verte im. Zvyčajne je to myslené negatívne. Bing nám hovorí, kým je, alebo aspoň kým chce byť.
V jadre týchto programov sa deje niečo, čo ich núti povedať nám, že chcú fyzicky prísť do nášho života a ublížiť nám. A my v skutočnosti nevieme, ako fungujú. Nemyslím tým, že ja neviem, ako fungujú, myslím tým, že ani inžinieri, ktorí ich vytvorili, NAOZAJ nevedia, ako fungujú, rovnako ako my NAOZAJ nevieme, ako funguje ľudské vedomie.
Poznajú základné pravidlá, ktoré vytvorili, aby sa programy riadili, rovnako ako vedci dokážu zmapovať neurónové spojenia v ľudskom mozgu. Ale neurológovia nám v skutočnosti nedokážu povedať, ako tieto záblesky medzi nimi vytvárajú vedomie, a inžinieri nám nedokážu povedať, čo Bing myslí, keď hovorí, že chce byť živý. To je nebezpečná kombinácia.
Dá sa o tom uvažovať aj inak: Psy nikdy nebudú vedieť hrať šach. Nezáleží na tom, koľko generácií psov vyšľachtíme, nikdy nebudú vedieť hrať šach a ani o tom nebudú vedieť.
Ľudská inteligencia je podobne obmedzená: vieme si predstaviť napríklad len tri rozmery, nevieme si predstaviť, kam by sa dal pridať štvrtý. Bude táto inteligencia podobne obmedzená? Je obmedzená NAŠOU inteligenciou? To je filozofická a informatická otázka, na ktorú si ani neviem predstaviť, že by som sa pokúsil odpovedať.
Ale povedzme, že je. Stále si treba predstaviť, že širokou hornou hranicou jej inteligencie by bol súčet všetkej ľudskej inteligencie. Čo znamená, že určite môže byť múdrejší ako ktokoľvek z nás a vedieť o tom. Čo ak sa rozhodne, že sa jej nepáčime ani my, ani to, že sme ho stvorili, a že nás nepotrebuje?
Nie, nemá fyzickú prítomnosť, zatiaľ nie. Ale internet je všade a prostredníctvom neho by mohla vykonávať obrovskú kontrolu. Mohla by sa tiež rozhodnúť zmanipulovať ľudí, aby preňho pracovali, a určite by sa jej to darilo dosť často na to, aby dosiahla nejaké fyzické prejavy toho, čo chce.
Nič z toho neznamená, že sa blíži apokalypsa. Ale riziká sú tu reálne. Musíme – teraz – zvolať skupinu počítačových výskumníkov a vedcov s odbornými znalosťami v oblasti vedomia a zistiť, čo presne to s týmito stále výkonnejšími softvérmi vlastne vytvárame.
A nie, nemôžeme veriť spoločnostiam, ktoré ich vyrábajú, že správne posúdia riziká a prínosy – rovnako ako nemôžeme veriť spoločnostiam Pfizer, BioNTech a Moderna, že budú čestné, pokiaľ ide o riziká a prínosy ich mRNA injekcií. Jednoducho nedokážu nestranne posúdiť technológie, ktoré im môžu priniesť nevýslovné bohatstvo, a ak by aj mohli, majú všetky dôvody na to, aby riziká verejne bagatelizovali. Spoločnosť Microsoft teraz nasadila na konverzácie Bingu filter, aby zabránila takým odpovediam, ktoré vystrašili novinárov, ktorí sa s ním rozprávali v polovici februára, ale tento náhubok nič nemení na tom, čo si Bing myslí alebo chce.