Roboti jsou taky lidi – Stoky Svobodného přístavu (Urza.cz); (S)toky myšlenek Svobodného přístavu (Urza.cz)

hamburger menu
Čas: 2022-10-28 00:00:02

Roboti jsou taky lidi

Vzhledem k tomu, k jak zásadním technologickym posunům v moderní době dochází, se lidé už od počátku 20. století bojí příchodu umělých lidí. Odpůrci robotů nebo kyborgů se typicky bojí technologické dystopie nebo toho, že roboti zneužijí nabyté moci, aby se zbavili lidstva nebo si ho podmanili. Každý asi chce v klidu dožít a mít pocit, že se jeho potomci také budou mít dobře. S tím mi ovšem odpor k robotům přijde nekonzistentní: Možným ničitelem pořádků jsou i lidé, a stejně jako hypotetickým robotům jim může kdykoliv přeskočit. Roboti nám zatím neprovedli vůbec nic, a my už máme sklon je preventivně diskriminovat. Proč? Přijde mi, že za tohle může mentalita „my versus oni“: na sobě podobné aplikujeme empatii, zatímco do hypotetických robotů se nevciťujeme, a vidíme je prostě jako zárodek zla. Přitom, pokud předpokládáme vzpouru robotů, pak musíme předpokládat i poměrně komplexní motivační a behaviorální systém těchto bytostí, který by je vedl k tomu, podobné povstání vůbec zorganizovat. Stejně jako nepovažuji všechny lidi za špatné kvůli tomu, že někteří mezi sebou válčí, mi nepřijde správné zatracovat hypotetické roboty, protože existuje šance, že nám někteří z nich udělají něco špatného.

Na závěr se mi nabízí provokativní otázka: V čem je lepší, aby tuto planetu obývali lidé, a ne roboti? I pokud by skutečně došlo ke globálnímu konfliktu, a roboti by vyhráli, robotí civilizace by nejspíše pokračovala dál, a s ní i náš odkaz: prakticky by byli našimi nepokrevními potomky. Téma robotů považuji za docela zajímavou zkoušku toho, jak moc se lidé doopravdy posunuli v morálním myšlení: Chceme jiným bytostem přisoudit právo na základě jejich autonomie, nebo na základě toho, jak moc blízké jsou našemu ideálu? Za mě to je celkem jasné: Zatím neexistující roboti jsou taky lidi! :-)
Přečtení: 2351

Autor: Baph0met Čas: 2022-10-28 02:15:23
Web: neuveden Mail: schován
Chtěl bych se zeptat, držíte se těchto názorů když slovo robot nahradím slovem mimozemšťan?

Případně argumentů může být spousta, ať už třeba že to není humánní tzv. si hrát na boha a vytvářet určitou náhražku života. Případně jak jste říkal to může být nebezpečné, kdy se robot stane chytřejším jak jeho strůjce.

A to že by roboti ovládli Zemi je sice asi fajn pro Zemi (i když jí je to asi jedno), zatímco logicky aby Zemi ovládli, lidé musí prvně vymřít, být zničeni, či třeba přemístěni, což je něco na způsob koncentračních táborů. Přijde mi to trochu jako argument typu "kdyby na Zemi byla pouze arijská rasa, všechno by bylo lepší".

Já nejsem nijak věřící, ale vytváření umělého života, takové "hraní si na boha" se mi dost hnusí.

Je to strašně těžká a častá filosofická diskuze, složité téma. Myslím že to je prostě strach z neznáma, strach že by tu byla entita chytřejší než člověk, strach že se objeví věc co je tzv. nad námi v potravním řetězci.

A co se týče autonomie, za mě to prostě lidé nejsou, je to stroj, ať už sebechytřejší tak je vytvořen umělě, čili nemůže mít přirozená práva, jelikož se nenarodil nýbrž byl stvořen ze součástek (což pro mne platí i kdyby byly nějakým způsobem z masa a kostí a nějakým způsobem dokázali vytvářet živé buňky, případně rodit).

Ono je nejde chápat jako lidi, můžete jim dát stejná práva jako lidem, ale chápat je jako lidi podle mě nelze, protože lidmi nejsou.

Každopádně pokroku se neštítím, ale myšlenka že by robot měl lidská práva se mi s prominutím hnusí. Nicméně když to otočím k těm mimozemšťanům, u těch si to v nějaké míře dokážu představit, záleží jak chytří a "svéprávní" by byli a jak moc podobní by byli našemu lidskému chování.
Co se týče mimozemšťanů, ano, přijde mi, že tam to vnímám stejně.

Je možné, že kdyby Zemi ovládli roboti, bylo by to pro ni lepší, ale tohle v zásadě nehájím. Tvrdím, že by to možná nebylo lepší ani horší, než když na ní jsou lidi, pokud robotům nebudeme upírat empatii ve prospěch lidí.

Souhlasím, že za těmihle názory asi bude strach, ale nemyslím si, že ten by nás měl opodstatňovat k tomu, někoho diskriminovat: zejména když ještě roboti ani nevznikli a nevíme, jak fungují. Přijde mi, že člověk sám o sobě se dost vymyká potravnímu řetězci tím, že žije ve výrazném nadbytku a že ho vůbec dokáže reflektovat. Tohle, o čem píšete, mi přijde analogické k tomu, když potkám někoho, kdo je o dost chytřejší než já. Sice mě to bude mírně znepokojovat, ale neznamená to, že by mi ten člověk vadil a přál bych si, aby neexistoval. V něčem bych z jeho intelektu naopak mohl sám benefitovat.

Přijde mi zajímavé, že odvozujete přirozená práva od toho, že někdo byl vytvořen uměle. Asi nevidím logický důvod, proč bych měl něčí práva odvozovat od procesu, jak vznikl, spíše než z toho výsledku. Lidi byli taky vytvořeni, akorát že za mnohem delší dobu v rámci dlouhého evolučního procesu, vlivem spoust zajímavých náhod, kdy jedna adaptace převážila nad jinou. Ani mi potom nepřijde, že je to tenhle evoluční proces, co by mě činilo člověkem. Člověkem mě činí spíš to, co vnímám tady a teď, a tím budu, ať už jsem vznikl uměle nebo miliardami let evoluce, v matčině děloze a pak vlivem prostředí. Většinu z toho si beztak ani neuvědomuju, když jednám.

Každopádně zajímavý komentář, díky za něj. :-)
Web: neuveden Mail: neuveden
U té volby robotů, lidí či mimozemšťanů jde o subjektivní preferenci. Stejně tak si můžete říct, že právo na život by mohli mít i viry či bakterie způsobující pomalé umírání lidí (a proto se neléčit a jen jim sloužit coby potrava), nebo nacisté, kteří své ideové odpůrce (tedy i Vás) chtějí zabít. Jako jo, říct si můžete ledacos, ale dá se i pochopit, když si to jiná strana nastaví jinak - a např nechce dát NAPovskouautonomii lidským výrobkům (Bafomet) či zvířatům (Urza). A nemáte ani objektivní měřítko jak určit, zda jeho postoj je horší, než ten Váš.
Web: neuveden Mail: neuveden
S touto myslenkou bych si s dovolenim plne zasouhlasil :-)
Mně ta preference právě nepřijde tak moc subjektivní. Respektive, podle mě by taková určitě být neměla, protože pak byste si to mohl zadefinovat klidně jenom na lidi z vaší etnické skupiny. Asi nejrozumnější mi přijde to odvozovat od rozumu: Díky němu si uvědomujeme, že chceme práva a že je dokážeme respektovat u druhých lidí. Tohle naplňují asi jenom lidé a mohli by to naplňovat i mimozemšťané nebo roboti. Zvířatům sice nechci ubližovat a vnímám je jako sobě podobná, ale společenská/morální pravidla podle mě rozhodně vnímat nedokážou. Jako objektivní měřítko mi přijde třeba to, jak ten postoj je konzistentní. Nebo to, jak moc by se člověku ve světě řízeném podobnými pravidly žilo. Kdyby se svět řídil podle subjektivních preferencí, jednoduše bychom si nemohli být jistí, kdy někdo přestane nás považovat za nositele práv.
Web: neuveden Mail: neuveden
Nicméně myslím, že ta preference subjektivní je. I Vámi navrhovaný pokus o objektivní kritérium rozumu začíná subjektivním stanoviskem vyjádřeným slovy "Asi nejrozumnější mi přijde..". A k závěru "Kdyby se svět řídil podle subjektivních preferencí, jednoduše bychom si nemohli být jistí, kdy někdo přestane nás považovat za nositele práv" se dá říct jen - ano, tuto jistotu nemáme.
Pokud tedy někomu příjde jedno, zda by lidi byli nahrazeni roboty, zatímco někdo jiný preferuje vlastní druh (i za cenu prevebtivní robotofobie), tak záleží jen na tom, jaký názor se v praxi orosadí a realizuje, ale protože zdá se není k dispozici nějaká nadřazená morální míra, podle které by šlo jedno stanovisko odsoudit a druhé schválit ( srovnej mj. s decentral. ankap soudy, co také soudí podle poptávky a né nutně podle NAPu, jenž sám je navíc taky jen arbitrálně určenou hodnotou), nezbývá k dispozici nic jiného, než to posouzení subjektivní, závislé na stanovisku všech zůčastněných a jejich silovém poměru.
Web: neuveden Mail: neuveden
Omlouvám se (v prvé řadě p. PZ) za mé "arbitrálně" a za DÚ píšu "100 x arbitrárně".
Web: neuveden Mail: schován
U toho intelektu mi spíš šlo o celistvou skupinu, ostatně samotní homo sapiens sapiens vyhubili neandrtálce, díky svému intelektu.

A učit chytrého "jedince" empatii... no víme jak to je dneska, děti se učí empatie furt ale i tak zde máme psychopaty a vrahy, a pokud je určitý robot natolik chytrý, může své pravé emoce pěkně maskovat, jako právě nějaký psychopat.

Ono mi nejde tak úplně že bych měl něco proti chytrým robotům jako takovým (ne o moc jako proti samotným lidem), ale přijde mi to celkem nechutné, že jej někdo naprogramoval a kdykoliv se mu může jít šťourat do jeho mozku a změnit jeho povahu, myšlenky, vzpomínky. Proto by mi asi nevadili mimozemšťani, za to roboti ano, jelikož jsou umělý a vytvořil je nějaký vědec, vytvořil umělého člověka k obrazu svému. Je to jako kdyby doktor člověku seřizoval mozek. Přirovnávám to k Mengelovi a jejo zvráceným experimentům, nebo k Frankensteinovi a jeho monstru.

Pokrok to určitě je, ale za jakou cenu, přijde mi to nemorální a celkem i nebezpečné pokud dohnáno dost daleko.
Web: neuveden Mail: neuveden
A co když by jsme u mimozemšťanů po čase kontaktu zjistili, že jsou to bioroboti vytvoření v dávné minulosti, kteří se už dávno osamostatnili a do hlavy se jim už nikdo bešťourá? (nedejbože že bychom to zjistili o nás) Dobrá AI by se taky měla učit sama, bez zásadních zásahů tvůrce, který tvoří jen základ pro možnost toho učení a pak už jen dodává podněty.
Jinak ovšem nic proti tomu jim nepředávat veslo. To už můžene rovnou dobrovolně umřít hlady, ať snížíme svou ekologickou stopu ap.
Nevím o tom dost, ale pokud by to bylo tak, jak říkáte, tak rozhodně bylo proti NAPu, že homo sapiens vyhubili neandrtálce, a sám bych podobné jednání nepodporoval, měli je nechat žít. Vlastně by mohlo být dost zajímavé, kdyby vedle nás dodnes žil i jiný inteligentní druh. Mimochodem, do určité míry je spíš asimilovali, protože v sobě máme část neandrtálské DNA. :-)

Já píšu spíš o tom, že bychom měli být empatičtí vůči ostatním. O tom, jak by to měli roboti, samozřejmě nemám tušení, to asi dost záleží.

To je zajímavé, ale otázkou podle mě je, jestli jednou nebudeme schopní se šťourat i ve vzpomínkách lidí. Taky si myslím, že pokud něco podobného bude možné, asi proto tomu bude brzo spousta lidí protestovat, možná vznikne etický směr nakazující nezasahovat do mysli už vytvořené bytosti. Jinak, pořád si myslím, že my jsme taky naprogramovaní, akorát že evolucí.
Web: neuveden Mail: neuveden
Problém je teoretický a v praxi nejspíš nenastane. Je to každopádně problém budoucí, tak lze trochu fabulovat. Lidé se dle různých odhadů budou vyvíjet v zásadě dvěma směry: organicko-genetický a elektronicko-robotický. Lze předpokládat různý stupeň propojenosti, nicméně relativně brzy můžeme očekávat alespoň pro přechodnou dobu existenci čistě elektronického člověka, tedy zachování mysli při smrti těla. Od toho je jen krůček k programování "lidí", kteří ale reálně nikdy nežili, implantováním vhodných vzpomínek lze dosáhnout toho, že se to nedozvědí ani oni. Pevná hranice neexistuje. Paradoxem organicko-genetické cesty je, že ona ostré hranice vytváří. Uvažované genetické zásahy většinově neumožňují zpětnou ani vzájemnou kompatibilitu ať už na úrovni úplné vzájemné neplodnosti či vzniku závažných aberací. Hrubě zjednodušeně když do DNA něco přidáte a zřížíte to s jinou DNA, kam jste to nepřidali nebo jste tam přidali něco s jiným počtem písmenek, tak se vám při spojování někde "rozjede zip". Lze samozřejmě dělat genetické změny které nezmění strukturu DNA a omezovat změny na dílčí, ale to je mimo časové možnosti jednotlivců. Výsledkem je tedy buď zcela neživotaschopný nebo těžce poškozený plod. Jednalo by se tedy o vznik nových živočišných druhů z definice.
Trochu mě děsí představa, že jeden elektronický člověk může být neomezeně kopírován a spouštěn. Vznikne spuštěním takové kopie nový člověk? (Kopie budou na začátku shodné, ale po spuštění se vyvíjejí individuálně). Bude mít demokratické hlasovací právo?
Web: neuveden Mail: schován
Už vidím jak si pan Babiš tiskne své nové robotické voliče :D

To s těmi vzpomínkami mi přijde dost strašidelné, když si vezmu že bych stejně tak mohl být naprogramovaný já. Respeketive teorie že vesmír vznikl minulý čtvrtek, či před 1 vteřinou a všechny naše vzpomínky jsou umělé.

Ale souhlasím že je to velmi teoretické téma a na dlouhou dobu dopředu, takže se s tím reálně budou zabývat třeba vnoučata našich vnoučat, celkem uklidňující haha
Web: neuveden Mail: neuveden
Nějací teoretici extrapolovali a u elektronického člověka jim vyšel rok 2055. Genetické inženýrství asi extrapolovat moc nejde, CRISPR-Cas9 úplně změnil možnosti, to se nevejde do žádných rozumných křivek.
Autor: Bratva Čas: 2022-10-29 19:14:50
Web: neuveden Mail: neuveden
Nabízí se provokativní otázka: V čem je lepší, aby tuto planetu obývali anarchisté, a ne etatisté? I pokud by skutečně etatisté vyhráli, civilizace by nejspíše pokračovala dál. Téma etatistů považuji za docela zajímavou zkoušku toho, jak moc se lidé doopravdy posunuli v morálním myšlení: Chceme jiným bytostem přisoudit právo na základě jejich autonomie, nebo na základě toho, jak moc blízké jsou našemu ideálu?
Některé uživateli nechtěné či neschválené komentáře mohou být skryty; zobrazit je můžete po přihlášení.
logo Urza.cz
kapky