adminml

Bojíte se IQ svého psa? Jestli ne, nebojte se umělé inteligence, zatím

Decrease Font Size Increase Font Size Text Size Print This Page

FOTO: Ilustrační foto

 

Jan Fikáček: Bojíte se IQ svého psa? Jestli ne, nebojte se umělé inteligence, zatím

Nedávno jsem byl na diskusi o umělé inteligenci, kde vystupoval Prof. Pinker z Harvardu, Miles Brundage z Oxfordu a další experti. Podle všeho, když se nebojíte chytrosti svého psa, nemusíte se do roku 2100 bát umělé inteligence.

Moralisti tvrdí, že nás umělá inteligence (dále jen UI) děsí proto, že si dovedeme představit, jak hnusně bychom se chovali my, kdybychom měli díky daleko vyšší inteligenci daleko větší moc a schopnosti. Říkají, že prý je UI jako zrcadlo, ve kterém vidíme sami sebe a přitom uvažujeme podle přísloví „Podle sebe soudím sebe.“

Možná to ale s námi není tak strašné, protože se obecně bojíme čehokoliv silného a mocného, co nemáme pod kontrolou, ne jen lidí. Třeba tygra nebo slona a ti snad naším zrcadlem nejsou. UI se bojíme už od dob Golema, který se nám zas tak nepodobal.

Trochu se ale bojíme toho, že UI nás nemusí ohrozit sama o sobě, ale může být nebezpečná jako nástroj v rukách někoho zlého, jako zesilovač jeho schopností. Ale jinak je strach z UI tak trochu jako bát se vlastních nenarozených dětí, protože ty přece také mohou vraždit nebo krást, i když asi nebudou mít nad námi superiorní inteligenci a alespoň částečně je máme výchovou pod kontrolou. V každém případě je i UI vlastně naše dítě.

Podle zmíněné diskluse se zdá, že se nemusíme bát zase tolik, neboť ta obava hodně vychází z našeho naivního předpokladu, že když UI dosáhne vyšší inteligence než my, odstartuje prudký exponenciální růst svých schopností a dosáhne za chvíli téměř nekonečné inteligence. Taková byla třeba představa tvůrců filmu Ona, kde operační problém s umělou inteligencí navázal (v budoucnosti) vztah s jistým tvůrcem ručně psaných dopisů (v té budoucnosti už rukou prakticky nikdo nepsal). Poté tento operační systém, tedy vlastně Ona ale navázala takový dokonalý vztah s dalšími 641 uživateli. Taková psychologická prostitutka. 🙂

Jenže taková představa je, podle expertů na zmíněné konferenci, tedy experů, kteří onu UI vytvářejí, velmi naivní. Už tvorba současných aplikací, které se nazývají UI, je velmi pracná a zdlouhavá, a to je současná UI stále jen pár tisícovek aplikací, které umí velmi dobře řešit nějakou omezenou úlohu a nic víc. S komplexní lidskou inteligencí nejsou tyto aplikace absolutně srovnatelné, i když některou specifickou úlohu vyřeší daleko lépe než člověk. Něco takového ale umí i vaše kalkulačka. UI dnes opravdu není jedna věc, ale jsou to tisíce nesouvisejících aplikací. Je tak těžké si představit, že například již existující systémy na automatické řízení aut se domluví a udělají teroristickou organizaci, jak na konferenci uvedl UI expert z University College z Londýna, Peter Bentley.

Onen prudký vývoj UI bez hranic je opravdu velmi naivní představa. Nic takového nehrozí ani omylem. Lidé si dříve také představovali, že použitím parních strojů nastane ráj a exponenciální růst možností. Růst nastal, ale pořád to byla dost fuška, průmyslová revoluce trvala dost dlouho, a ten vývoje měl své brzdy a limity, například ekologické. Když nahlédneme do historie, žádná technologie neměla exponenciální neomezený růst, ale brzdy začaly působit dříve neznámé brzdící faktory. Je to jen optický klam, přesněji, ze začátku vývoje ona vývojová křivka vypadá jako exponenciála, ale není to exponenciálna, neboť nic neexistuje ve vzduchoprázdnu a vše má taky své vnitřní limity.

Lidé také ani neumí zkonstruovat pořádnou UI, protože ani pořádně netuší, jak fungují naše neurony a náš mozek a tím sami nemohou umělé inteligenci sdělit, jak se má dále vyvíjet. A třeba současný vývoj, například aplikace na rozpoznávání tváří, vyžadoval také několikaletou práci stovek lidí, kteří UI rozpoznávání lidských tváří učili, až ji to naučili lépe, než to umí člověk. Její schopnosti nicméně vycházejí i z toho, že UI si v tomto případě zapamatuje daleko větší množství tváří než je schopen člověk. Z toho je ale také mimochodem patrné, že obavy, jak UI bude lidem brát práci, se až tak moc nepotvrzují, neboť UI jednak řeší úlohy, které člověk vůbec řešit neumí, druhak UI ke svému vývoji potřebuje často mnoho i nekvalifikované lidské práce. A UI podněcuje vznik nových zaměstnání. V metafoře, vynález kola sice lidem sebral namáhavou práci, ale vytvořil také celý obor dopravy, kde se realizují dopravní operace, které lidé sami bez kola nebyli schopni řešit.

Ale zpět ke strachu z UI. Jestli se nebojíte inteligence svého psa, tak vězte, že žádná dnešní UI ani zdaleka nedosahuje inteligence psa. A experti odhadují, že pořádná komplexní UI nebude realizována do roku 2100, jak prohlásil Olle Häggström z Chalmers University of Technology. Je takjo otázkou, jestli kdy bude mít UI i umělé vědomí, neboť se nezdá, že by mezi výško inteligence a vědomím byl nějaký přímý kauzální vztah.

Obavy mají lidé určitě také z toho, že nebudou rozumět tomu, jak UI přišla k některým svým výsledkům. Tiskem nedávno proběhla zpráva, že si dvě UI vytvořily nový společný jazyk, kterému tvůrci UI nerozuměli. Upřímně řečeno, většina lidí ale také nerozumí tomu, jak počítá jejich kalkulačka a většina lidí už vůbec nerozumí tomu, jak ke svým závěrům došli experti na ekonomiku, politologii či teoretickou fyziku. Takže toto vůbec není nový problém, jen je to rozdíl v tom, že těmto UI nerozumí už ani jejich tvůrci.

Jenže známe přece už dlouho nástroje, jak tento problém řešit. Každý chodil do školy a lidé si mezi sebou věci běžně vysvětlují. Musíme holt UI zadat i úkol vysvětlit, jaké postupy používají. A specializovaná UI by své postupy měla časem umět vysvětlit podobně pochopitelně, jako učitelé, zejména tehdy, kdyby měla zpětnou vazbu v podobě scanu vašeho mozku magnetickou rezonancí, a to s informací, jestli v danou chvíli vysvětlování chápete či nikoliv, což učitelé dnes obvykle nemají.

Velmi zajímavá ve zmíněné diskusi byla úvaha Stevena Pinkera o tom, jak kontrolovat umělou inteligenci. Prostě jich udělat více a nechat je komunikovat. Že to nepomůže? Ale u lidí to přesně tak funguje, třeba i v podobě demokracie. Neexistuje jediný génius, který vymyslel celou vědu, ale je to kolektivní práce, a morálka vlastně vzniká jako sociální reakce okolních lidí na (třeba špatné) akce nějakého člověka. Jako forma sebekontroly by tedy mohla být komunikace více UI.

Že si vědci velmi dobře uvědomují naléhavost etiky UI a nebezpečí plynoucí z její ansence ukázalo vystoupení Thomase Metzingera z Gutenbergovy university v německé Mohuči. Prohlásil, že na implementace etiky budou mít lidé vlastně jediný pokus. Když to dobře nezvládnou do tzv. singularity, tedy bodu, kdy UI přesáhne lidskou inteligenci, druhou šanci už lidé nedostanou. To zní zase dost děsivě, ale když si uvědomíme, že se toto nebezpečí přeceňuje, není to tak hrozné. Je ale lepší být připraven.

Blog Jana Fikáčka na iDNES: ODKAZ

 

Jan Fikáček

Ing. Jan Fikáček (* 21. dubna 19** v Ostravě) je český filosof a popularizátor vědy, zabývající se především obecnými otázkami fyziky a virtuální reality.

Životopis

Narodil se 21. dubna 19** v Ostravě. Zde vystudoval Chemickou průmyslovku a poté interdisciplinární obor Systémové inženýrství na Ekonomické fakultě Vysoké školy báňské (VŠB).

Po studiích působil rok jako 3. tavič vysoké pece a pak 2 roky na Ekonomické fakultě VŠB jako aspirant (studium CSc.). Pak se přestěhoval do Prahy, kde působil na Ústředním dopravním institutu (ke konci jako vedoucí katedry řízení), což byla vzdělávací organizace Ministerstva dopravy a spojů. Od roku 1988 do roku 2001 vyučoval na Universitě Karlově, konkrétně na Matematicko-fyzikální fakultě a zejména pak na Přírodovědecké fakultě UK, externě na FAMU, AVU a Filosofické fakultě UK.

V následujících dvou letech působil v soukromé sféře v oblasti IT vzdělávání a digitální fotografie. Poté se přestěhoval do zahraničí, kde byl zpočátku na rodičovské dovolené a poté pracoval 6 let v oblasti evropské počítačové bezpečnosti. Kratší dobu působil jako evropský expert pro „Future and emerging technologies“, zejména pro rozšířenou a smíšenou realitu. Nyní pracuje v oblasti podpory vědy, vzdělávání a zaměstnanosti.

Intelektuální život

Od mládí se intenzivně zajímal o sci-fi, fyziku a filosofii fyziky. Ve 13 letech navštěvoval kurz kvantové fyziky a kvantové chemie na VŠB a věnoval se soukromému studiu na rozhraní fyziky a filosofie. Zúčastňoval se, počínaje základní školou, různých olympiád a uspěl zejména v matematických. Navštěvoval městský Klub mladých matematiků v Ostravě.

Studia

Vystudoval Chemickou průmyslovku v Ostravě, obor chemická technologie. Poté nastoupil na studium interdisciplinárního obor Systémové inženýrství (kybernetika, počítače, ekonomika, teorie řízení, teorie systémů) na Ekonomické fakultě VŠB. Od rektora získal individuální studijní plán. Největší vliv na něj po dobu studií měl obor obecná teorie systémů, hraničící s filosofií.

Po ukončení studia a po roční dělnické praxi pracoval dva roky na téže fakultě jako aspirant (1983-1984). V této době zpracovával program na analýzu ekonomických ukazatelů a soukromě, částečně úspěšně, modeloval průchod kvantových částic dvěma štěrbinami a samo-interferenci této částice. V rámci této práce navrhl experiment poukazující nerozlišitelnost náhodných a pseudonáhodných čísel.

Akademická sféra

V roce 1985 nastoupil na katedru řízení Ústředního dopravního institutu, kde se věnoval exaktním metodám řízení, počínajícímu rozvoji výpočetní techniky (počítač SM 3-20) a obecné teorii systémů. Sepsal několik učebních textů, z nich stěžejní byl text Obecná teorie systémů. Z politických důvodů (připravoval např. text Krize socialismu) odešel v roce 1988 na Matematicko-fyzikální fakultu UK, kde učil filosofii fyziky a matematiky.

Přes 10 let působil následně na Přírodovědecké fakultě UK, kde učil zpočátku teorii systémů. Po přechodu z Katedry demografie a geodemografie na Ústav aplikací matematiky a výpočetní techniky začal vyučovat výpočetní techniku, zejména právě se rozvíjející Internet (rok 1995). Byl administrátorem unixového SGI serveru. V roce 1997 poprvé začal přednášet semestrální kurz „Filosofie virtuální reality“, který byl otevřený jak pro celou Karlovu universitu, tak pro všechny vysoké školy v ČR. Byl to také zřejmě první internetový vysokoškolský kurz v ČR. V rámci tohoto kurzu prezentoval vlastní filosofickou koncepci zvanou infinitní relativně fraktální strukturální fenomenologie a její aplikace do teoretické fyziky (viz např. „Technologie výroby času„), psychologie (přednáška „Byl jsem Franzem Kafkou“), sociologie a fyziologie (viz „Technologie výroby Boha„), atd. Populární nástin zmíněné tzv. totální fenomenologie lze najít v textu „Technologie výroby skutečnosti“ nebo ve specificky zaměřeném konferenčním textu „Skutečnost jako přirozená virtuální realita“ (viz publikace a reference).

Mensa

Některé ze zmíněných přednášek, jako například „Naučte svého psa kvantovou mechaniku“, byly původně vytvořeny jako popularizační přednášky společnosti Mensa ČR, spolku lidí s IQ nad 130, jehož byl předsedou v letech 1991 až 1997. Zároveň reprezentoval národní Mensu jako člen Mezinárodního výboru ředitelů (IBD) Mensy International a byl členem Mezinárodní rady (IGC) světové Mensy. V té době také založil a vedl Einsteinovu společnost, což byla společnost lidí s IQ nad 150. Poměrně aktivně vystupoval v médiích, televizích, rádiích a publikoval články v časopisech. V letech 1991-96 založil a organizoval soutěže pro geniální dívky Miss Mensa a Miss Einstein (dívky s IQ nad 150), od roku 1996 do roku 2001 pak realizoval soutěž Miss Internet, kde intelektuální schopnosti soutěžících tvořily většinu kritérií výběru vítězek. Partnery této soutěže byly firmy IBM, Microsoft, Seznam.cz, CK Fischer, Czechoslovak models, Autocont atd.

V roce 2000 pracoval jako kreativec v projektu vědecko-vzdělávacího centra E-area. V rámci tohoto projektu prezentoval již zmíněnou filosofickou koncepci inspirovanou virtuální realitou a to třeba také v RIBA – Royal Institute of British Architects v Londýně nebo v rámci Fóra 2000 na Pražském hradě v sekci „Globalizace a cyberhumanismus“. Navrhl a spolurealizoval virtuální model speciální teorie relativity, který byl za podpory společnosti Silicon Graphics Incorporation a projektu Praha – Evropské město kultury 2000 prezentován poradenské společnosti Andersen consulting.

V letech 2001 a 2002 pracoval v soukromém sektoru, zpracovával Státní informační politiku pro vzdělávání jako zaměstnanec European Institute for IT Education a poté krátce pracoval v oblasti digitální fotografie jako zaměstnanec Institutu digitální fotografie Ondřeje Neffa.

Působení v zahraničí (2003-dosud)

Po přestěhování do Belgie se v letech 2003-2006 velmi věnoval digitální fotografii, zejména tzv. High dynamic range fotografii (HDR) a byl pionýrem tzv. reflexní HDR fotografie. V roce 2004 měl výstavu fotografií „ČR ve stylu Franze Kafky“, která byla součástí oficiální prezentace ČR u příležitosti vstupu do EU. Další výstava, pod záštitou komisaře Špidly a Českého stálého zastoupení při EU, byla u příležitosti Českého předsednictví EU, v hlavní budově Evropské komiseBerlaymontu. V roce 2008 pak připravil putovní výstavu po eurocentrech České repubiky pod názvem „Tak trochu jiný Brusel“, iniciovanou Úřadem vlády ČR. V roce 2004 prezentoval svou koncepci počítačem podporované empatie(CAE) z roku 1997 na fóru evropských expertů. V roce 2005 pracoval jako evropský expert pro smíšenou a rozšířenou realitu v rámci výzvy Budoucí a vznikající technologie 6. Rámcového programu. Od roku 2007 působil 6 let jako evropský expert pro počítačovou bezpečnost a obecnou bezpečnost. V současnosti pracuje v oblasti podpory vědy, vzdělávání a zaměstnanosti.

Od roku 2012 znovu oživuje svou činnost v oblasti filosofie fyziky a filosofie. Tato témata v populární formě zveřejňuje na své blogu (iDnes) a zakládá na Facebooku skupinu Filosofie (Metafyzická systemologie). K dispozici je např. videozáznam jedné z jeho přednášek s názvem „Je čas pouhá iluze?“ ze srpna 2016.

Zájmy

Vždy aktivně sportoval, v mládí (17-18 let) se závodně věnoval silniční cyklistice, stejně pak několik let od roku 1997. V období let 1988 až 1995 se věnoval dálkovým běhům (nejlepší čas v maratónu 2:45:01).

Publikace (není-li uveden autor, je autorem JF)

Kolektiv : Přehled hlavních ekonomických ukazatelů pro řízení VHJ, VŠB Ostrava, 1984

Kolektiv : Ekonomické hry a základní oblasti jejich využití, VŠB Ostrava, 1986

Fikáček J., Skýva L.: Základy aplikací mikropočítačů v dopravě, ÚDI Praha, 1986

Obecná teorie systémů, ÚDI Praha, 1987

Co je to systém a systémový přístup, PřF UK Praha, 1987

Slovník nejpoužívanějších systémových pojmů, ÚDI Praha, 1987

Observaciones sobre questiones filosoficas de la direction,ÚDI Praha, 1987

Obecná teorie systémů dnes, In Sborník 19.konference o systémovém inženýrství, DT ČSVTS Praha, 1987

Introduction breve en la teoria de sistemas, ÚDI Praha, 1988

Systémové vlastnosti v dopravě, ÚDI Praha, 1988

Iděntifikácija i děfinicija sistěmy, In sborník mezinárodního demografického postgraduálu, PřF UK Praha, 1989

Moderní programové vybavení pro řízení I – Textové procesory, ÚDI Praha, 1989 (WordStar)

Moderní programové vybavení pro řízení II – Databáze, ÚDI Praha, 1989 (dBase II)

Asnovy sistěmnovo padchoda, In Měždunarodnaja letňaja škola děmografiji i demogeografiji, PřF UK Praha, 1989

Textový editor Text602, Smile, Praha 1990

Technologie výroby Boha, Smile, Praha 1991

Naučte svého psa kvantovou mechaniku, Smile, Praha 1992

Technologie výroby Boha, Technický magazín, č.4, ročník 36, Praha 1993, ISSN 0322-8355

Superperpetuum mobile podle pana Fikáčka, č.10, ročník 36, Praha 1993, ISSN 0322-8355

Editor D (manuál programátorského editoru pro UNIX), Daněk software, Hodonín 1994

Rádio, televize a co dál? Virtuální realita, Ekonom, č. 41, ročník XXXVIII, Praha 1994, ISSN 1210-0714

Proč chytří lidé dělají takové hlouposti?, Ekonom, č. 52, ročník XXXX, Praha 1996, ISSN 1210-0714

Úvod do Internetu a WWW, Karolinum, Praha 1998, 69. str. ISBN 8071845329.

Manuál ISŠU I.etapy SIPVZ (ISŠU – informační systém školení učitelů, SIPVZ – státní informační politika ve vzdělávání), MŠMT, Praha 2002

Jan Fikaček – fotografický profil s HDR fotografiemi, Digital Photographer, č. 6, Kijev 2006, registracia KB č. 10903, podpisnoj inděx 91153

HDR fotografie Zazděná řeka a Zábradlí Evropské komise, DIGI foto, č. 3, Brno 2007, ISSN 1801-0873

Dinant Aerial View by Jan Fikacek (dvoustránková HDR fotografie), Digital Photo, č. 105, Peterborough (UK) 2008, ISSN 1460-6801

Jan Fikacek – Portfolio Tchéque (fotografický profil s celostránkovými HDR fotografiemi), Phot’Art International, č.15, Armentiéres (France) 2009, ISSN 1950-9928

Photo de la semaine – SurReal in the Berlaymont: HDR photo „Two metal organisms from deep, eating the Earth“ by Jan Fikáček, Commission en direct, č. 509, Communautés européennes (c) 2009, ISSN 1830-5598

SurReal Europe – Photo exhibition by Jan Fikáček, Art in the Commission Buildings 2005-2010, European Union (c) 2010, Bruxelles, ISBN 978-92-79-15212-2, doi: 10.2798/11176

Belgické fotografie Jana Fikáčka (fotografický profil s 12 celostránkovými HDR fotografiemi), revue Prostor, 3. a 4. číslo XXX. ročníku, Praha 2012, ISSN 0862-7045

Budeme otroci umělé inteligence?, Nevšední svět, 9.3.2017

Existují paralelní vesmíry velmi podobné našemu?, Nevšední svět, 3.4.2017

Cestující metra jako kvantové vakuum, Objective Source E-Learning (OSEL), ISSN 1214-6307, 10.5.2017

Cestující metra jako kvantové vakuum, Nevšední svět, 15.5.2017

Teorie všeho jako filosofie mrtvá už při narození, Nevšední svět, 23.6.2017

Jsme mrchožrouti nekonečna, Nevšední svět, 3.8.2017

Proč se tolik bojíme zvuků nočního lesa, Prima ZOOM magazín, 15.8.2017

Experimentální filosofie jako efektivní cesta k revoluci ve fyzice, ERGOT, ISSN 2533-7564, 3.9.2017

Externí odkazy

Seznam děl v Souborném katalogu ČR, jejichž autorem nebo tématem je Jan Fikáček

Osobní blog věnovaný fyzice a filosofii: http://fikacek.blog.idnes.cz/

Přednáška „Je čas pouhou iluzí?“ (11.8.2016): https://www.youtube.com/watch?v=nyMOuaa7hF0

Starší filosofické texty: http://www.fikacek.cz/categ-filosofie.html

Osobní facebooková stránka: https://www.facebook.com/jan.fikacek

Profil na LindeIn: https://be.linkedin.com/in/jan-fikacek-1845563

Rozhovor v časopise Mensa: http://casopis.mensa.cz/rozhovory/exmensan_jan_fikacek.html

Svobodová H.: Exmensan Jan Fikáček, časopis Mensa, č. 3, ročník XV, Praha 2007, ISSN 1211-8877

Facebooková skupina Filosofie (Metafyzická systemologie): https://www.facebook.com/groups/235413043298265/

Přednáška Technologie výroby boha: http://www.fikacek.cz/buh.pdf

Výběr fotografií: https://www.fotoaparat.cz/fotogalerie/lide/7929/fotografie/?razeni%5Bpoint_count%5D=2

Výběr fotografií: https://www.facebook.com/jan.fikacek/media_set?set=a.119398308095387.7981.100000756559389&type=3

http://www.digineff.cz/art/tvorba/051125nejlepsi.html

fotografická výstava Tak trochu jiný Brusel http://www.radio.cz/cz/rubrika/udalosti/tak-trochu-jiny-brusel

http://www.fikacek.cz/bxl2004/JanFikacekA4.pdf

http://nase-rec.ujc.cas.cz/archiv.php?art=7516

http://mobil.idnes.cz/tiskova-zprava-finale-miss-internet-v-primem-prenosu-pdr-/mob_tech.aspx?c=981129_0003910_mob_aktuality

http://www.e-area.cz/main.html

https://cordis.europa.eu/pub/ist/docs/fet/ie-jan05-sac-19.pdf

 

 

Zajimavosti.info

You must be logged in to post a comment Login