Gépek lázadása?

[varég]

Egyre több hír terjed az úgynevezett mesterséges intelligencia(AI) térhódításáról, ami már sajnos eléggé közel van.
Több újítás van a készülékekben, ami már riasztó lehet sokunk számára(pl. a tmc, hang és kép alapú keresés, döntésképes szoftverek, vírusok, szokásokat elemzõ programok -ezekrõl írnak eddig cikkeket, a katonai fejlesztésekrõl még nem sokat. stb.)

Amire célzok ezzel a gondolatsorommal, az az, hogy szerintetek a technikától kell-e tartanunk, hogy "öntudatra ébred", és ezzel kárt okozhat az emberiségnek?

A címadó gépek lázadását magam részérõl nem Terminátor filmek képében vélem kibontakozni, hanem inkább a Kaptár elsõ részében látott(Vörös királynõ?) módhoz hasonlóan:
A "lázadó szoftver" nem készít robotokat, hanem a meglévõ, és irányítható egységeket(erre példa lehet a stuxnetnek az erõmûvek bizonyos részei ellen végrehajtott szabotázs akciója) programozza át, pl. közlekedési lámpákat összezavar, banki rendszert omlaszt össze, közmû hálózatot tönkre tesz túlvezérlésekkel, repülõgépeket bénít le, stb. ,ezzel okozva katasztrófa helyzetet.
Ezt a veszélyt lehet hogy szándékosan programozta be valaki, viszont az is lehetséges, hogy egy programhiba folyamán a rendszer nem összeomlik, hanem valami külsõ adatot rosszul értelmez, és erre reagál ilyen módon.

Szóval, egy ilyen veszélynek lehet valós jövõképe?
Kellene tartani ettõl?

[TMIB]

A gép csak azt hajtja végre, amire programozzák. Programhiba lehet, de attól egy gép még nem fog gondolkozni. Van a másik gond, hogy ami program-vezérelt és távolról elérhetõ, az feltörhetõ, rossz szándékkal is.

[gyûjtögetõ]

Minden csak idõ kérdése.

[varég]

Egy írásban volt ez a megjegyzés:

"a mesterséges intelligencia magas szintje, nem úgy fog létrejönni, hogy beleprogramozzák egy ember döntéseinek szimulációját, hanem öntanulót hoznak létre, ami gyorsan felfejlõdik a csirke képességétõl kezdve egy szuperintelligenciává. Most képzeld el azt, hogy a te személyiséged, az érzelmeid párosulnak egy olyan számítási kapacitással, hogy három másodperc alatt kiszámolsz egy atomerõmûvet az elsõtõl az utolsó csavarig."

Tételezzük fel, létezne ez az MI.

Elemzi "X" személy hozzászólásait, valamilyen algoritmus, vagy keresõszavak alapján.
X úr keres a neten fegyverboltokat, fegyver leírásokat.(ez alapján prioritásba kerül az MI-ben)
X úr vásárol egy vadászboltban(bármit), és ne adj isten bankkártyával fizet, amit az MI összepárosít a vadászbolttal(vagy akár helymeghatározást alkalmazva), ami alapján kilogikázza, hogy itt bezony fegyveres bûntény készülhet, emiatt riasztja a hatóságokat, és a mobil adatok alapján követhetõ az illetõ.

Ez elvileg mûködhet már ma is!

Innentõl kezdve mi lenne az akadálya, hogy amennyiben lehetõség adódik , az MI ne avatkozzon közbe, akár megfigyeléssel, forgalom lassítással(rendõrlámpa áthangolás), ne adj isten fegyveres drón bevetésével?(amiket leírtam, ma már létezõ dolgok)

Innentõl kezdve máris közelebb vagyunk a téma címéhez...

[TMIB]

Teheti, de az nem öntudat, az csak az amit az emberek utasításba adnak.

Amit felvázolsz az mûködhet, meg részben mûködik is, de csak emberi felügyelet alatt.

[D - törölt tag]

Az én mosógépem már fellázadt,a rohadék!
De viccet félretéve,mi az Öntudat?Mikor nevezzük úgy ,hogy öntudatra ébred?
Talán akkor,ha tudatosul benne születése vagy programja alapján,hogy létezem!Programoznak bele egy önvédelmi mechanizmust ami már létezõ technika primitívebb gépek esetén is.
Például sok gépet(mondjuk autót)ha felforr,elfolyik úgy programoznak,hogy álljon le védve önmagát.
A programozás bonyolultsága csak program kérdése!
De nézzük az embereket.Rajtunk is programokat futtatnak,születéstõl kondicionálnak!Ma odáig ment már a projekt,hogy az emberek a saját érdekük,létük,jövõjük ellenére is teszik amit a program diktál.
Ha egy ilyen bonyolult gépet,mint az ember ilyen könnyen lehet irányítani,egy egyszerû gépnek sem kell sok.
Az érdekesség akkor kezdõdik,ha a már meglévõ technika(önvezérlõ,alkalmazkodó robotok,pl bolygó kutató vagy harci robot) elõtérbe helyezi a saját létét a parancsnál.Lehet szoftver hiba,szabotázs,vírus vagy ki sem merem mondani önfejlesztõ program ami döntéseket hoz.

[BragBOL]

Ekkora hülyeséget.. mégis állandóan ezt hallom...

Ennyire azért nem lehet Istent játszani!

Egy HA függvény, soha az életben, nem fog öntudatra ébredni!

Egyetlen dolog ami talán mûködhet, az a szellem a gépben.
Megfelelõ finomságú érzékelõkkel, szerintem egy testetlen entitás képes lehet irányítani egy gépet.
És ezzel be is lehetne csapni az embert!

[varég]

...
Egy HA függvény, soha az életben, nem fog öntudatra ébredni!

...

Mi számít egy áramkör esetén öntudatnak?

Már rendszeresítve vannak olyan önvédelmi telepített eszközök(SRAD), amelyek külsõ beavatkozás nélkül el tudják dönteni, hogy a közelítõ jármû támadó avagy békés célú lehet(ellenség-barát felismerõ).
Amennyiben úgy ítéli meg, akkor megkezdi a megelõzõ csapást, az említett esetben pl. gépágyúval, vagy rakéta elhárító rendszerrel.
Innen kis lépés, vagy szoftveres hiba(szándékos??), hogy a rendszer minden felé közelítõ dologra(jármû, ember, egér, stb) tüzet nyit a saját védelme érdekében.

Ezeket csak úgy lehetne kiküszöbölni, ha a robotika alaptörvényeit beleégetnék felülírhatatlanul a rendszerbe
De akkor már nem fog mûködni a dolog...
Az alaptörvények:

1 A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tûrnie, hogy emberi lény bármilyen kárt szenvedjen.
2 A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az elsõ törvény elõírásaiba ütköznének.
3 A robot tartozik saját védelmérõl gondoskodni, amennyiben ez nem ütközik az elsõ vagy második törvény bármelyikének elõírásaiba.

Viszont van egy nulladik törvény is:
0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tûrnie, hogy az emberiség bármilyen kárt szenvedjen.

Viszont, ha ez is belekerül a rendszerbe, akkor már így alakulhat a döntési procedúra:
„A robotnak nem szabad kárt okoznia emberi lényben, kivéve, ha valahogy belátja, hogy ez a kár végül az emberiség javára válik.”

[mmilan21]

Léteznek intelligens kamerák, éjjellátóval, hõkamerával, arcfelismerõvel és távolságmérõvel.
Léteznek önvezérlõ robotok, fõleg Japánban készülnek ezek.
Léteznek több ezer TeraFlop teljesítményû szuperszámítógép fürtök.
Létezik hangfelismerõ és fordító program, beszédszintetizátor(virtuális hang).
Létezik egy centralizált rendszer az internet ami rá van kötve a világ számítógépeinek kb. 80%-ra, az infrastruktúra kb. 60%-ra.
Létezik már frekventált öntanuló mesterséges intelligencia és elég sokat bele kell nyúlni, hogy ne ragadjanak rá a rossz beszólások.
Az internetre kötött eszközök operációs rendszerei kivétel nélkül tartalmaznak biztonsági hibákat.
Az interneten fellelhetõ az ezek feltöréséhez szüksége információk nagy része.
Egy MI elég gyorsan megtanulhatja az interneten is fellelhetõ programozási nyelveket, akár fórumok segítségével is.
Fellelhetõek továbbá vírusminták, rootkit(rejtõzködés) funkciók, férgek, bootnetek és a szoftverek sérülékenységeit áruló (nem csak) orosz fórumok is.

Ezeket összegyúrva már egy elég nagy játszóteret kaphat a tényleg intelligens MI.
Az interneten, majd késõbb az egyéb csatornákon keresztül is támadhatna.
Igazából csak a tökéletes önfejlesztõ kód hiányzik hozzá. Lásd példaként az új "Chappie" címû filmet.
Ha egy olyan kód létezne és elszabadulna, az való veszélyt is jelenthetne. Persze az attól függ, hogy mit tanulna az interneten.
Persze ez csak egy fikció.

Létezik pár MI, fõleg a gigacégek szerverparkjain, ahonnan is szabad kijárása van az internetre és fejlesztheti tudását.
Ezek jelentik az igazi veszélyt egyenlõre.
A Skynetet létre lehet hozni, ezt tudják is a tudósok.
Ezért beépítenek direktívákat a kódba, hogy mit szabad az MI-nek tennie és mit nem.
Nehogy már lebénítsa a szeretett, drágalátos internetet az MI egy-egy rossz húzása.

[mmilan21]

Néhány cikk a témában:
(nem csak az idõk jelein vannak ilyen cikkek)

http://idokjelei.hu/2014/10/elon-mus...elligenciaval/

Bár továbbra is azt gondolja, hogy a gépek egészen a Marsig repíthetnek bennünket és az autók átveszik tõlünk a kormányt, Elon Musk továbbra is aggódik a mesterséges intelligenciában rejlõ sötét lehetõségek miatt.
Elon Musk, a Tesla elektromos autók, illetve a polgári ûrrepülés úttörõjeként ismert SpaceX alapítója az MIT repüléstudományi és asztronautikai tanszékén rendezett konferencián elhangzott kérdésre válaszolva elmondta, hogy szerinte a mesterséges intelligencia az emberiségre leselkedõ legnagyobb veszély és a technológiában rejlõ sötét lehetõségek továbbra is komoly aggodalommal töltik el. (videó)
„A mesterséges intelligenciával a démont idézzük meg. Biztos mindenki hallott már azokról az emberekrõl, akik jönnek a pentagrammával és a szenteltvízzel, biztosra véve, hogy majd irányítani tudják a démont, de mégse sikerült nekik.”

http://idokjelei.hu/2014/12/miert-re...a-szakadekbol/

Amikor a Miraikan múzeum látogatója megérint egy kijelzõt, a közelben ülõ hölgy elmosolyodik. Egy másik ikonra kattintva a mosoly haragos tekintetbe fordul.
A kijelzõ sarkára pillantva a robothölgy szemébe szerelt kamerán át nézheti a múzeumot, a mikrofonba beszélve pedig a robot szájából hallhatja vissza saját hangját.
„Egyelõre csak kísérletrõl van szó,” mondta Yuko Okayama, a múzeum nemzetközi ügyekért felelõs igazgatója.
„A jövõben azonban az élet részévé válhat. Azt akarjuk, hogy a látogatóink el tudják képzelni, milyen lehet együtt élni a robotokkal.”

http://idokjelei.hu/2014/08/egyetlen...es-robotjanak/

A Cornell Egyetem kutatói bemutatták a Robo Agyat (Robo Brain), egy „kiterjedt számítógépes rendszert, ami a nyilvánosan rendelkezésre álló webes forrásokból tanul.” Úgy tûnik, igen gyorsan…
A robotagyat sok millió robot használná szerte a világon és a tervek szerint minden fontos információt tartalmaz majd, a képektõl egészen az olyan gyakorlati ismeretekig, hogy hogyan kell kicserélni egy villásdugót.
A szerverrõl futó, tehát minden robot számára elérhetõ rendszer jelenleg 1 milliárd kép, 120.000 YouTube videó és 100 millió csináld magad dokumentum és használati utasítás letöltését és feldolgozását végzi.

http://idokjelei.hu/2014/08/az-ember...uj-szuperchip/

Az IBM olyan számítógép chipet fejlesztett ki, ami a cég elmondása szerint az emberi agyhoz hasonlóan mûködik és óriási elõrelépést jelent a mesterséges intelligencia megvalósításának irányába. A TrueNorth nevû chipet a világ legelsõ idegszinaptikus számítógép chipjeként harangozták be, mivel magától rá tudd jönni bizonyos dolgokra.
Emellett, a chip egymillió „neuronnal” rendelkezik, lehetõvé téve, hogy egy szuperszámítógép teljesítményét egyetlen postai bélyeg méretû lapra sûrítsék.
A szakértõk szerint a fejlesztés felér a 80-as években bemutatott szuperszámítógépek jelentõségével. Horst Simon, a Lawrence Berkeley National Laboratórium helyettes vezetõje a New York Times-nak nyilatkozva elmondta, hogy „rendkívül jelentõségteljes lépésrõl van szó a kicsi méret és az alacsony fogyasztás szempontjából.”

http://idokjelei.hu/2012/12/az-uj-sz...rtesre-keszul/

Az Egyesült Államok hadserege egy olyan hírszerzési rendszer kifejlesztését finanszírozza, ami a térfigyelõ kamerákkal összekapcsolva megjósolja, amikor valaki egy bûntett elkövetésére készül. A Mind’s Eye (Jelentése: Az elme szeme) névre keresztelt szoftver a térfigyelõ kamerák felvételeit algoritmusok segítségével elemzi és megjósolja a célpont közvetkezõ lépését, majd értesíti a hatóságokat. A technológia hallatán sok embernek a Különvélemény címû hollywoodi alkotás jut eszébe, amelyben az embereket a megjósolt, nem pedig az elkövezett bûntettekért ítélik el.

http://idokjelei.hu/2012/09/mikor-le...n-gondolkozni/

Június 23-án, kevés hírveréssel, egy számítógépes program nagyon közel jutott ahhoz, hogy átmenjen a Turing teszten, amit Alan Turing matematikus talált ki még 60 évvel ezelõtt, a gépek intelligenciájának mérésére.
Még véletlenül sem a Terminátor filmekbõl ismert, önállósult Skynet-hez vagy a 2001 Ûrodüsszeia HAL-jához hasonló esetre gondoljunk. Ettõl függetlenül a teljesítmény egyértelmûen jelzi, hogy a gépek beszédkészsége – ami az ember számára annyira természetes, a gépek számára viszont komoly kihívás – egyre fejlõdik.

http://idokjelei.hu/2012/08/hamarosa...s-muveleteket/

Az amerikai védelmi minisztérium summás pályázatot írt ki és ítélt oda a Boston Dynanics csapatának, olyan humanoid robotok kifejlesztésére, amelyek felügyelet nélkül is képesek ellátni feladataikat.
A 10,9 millió dolláros szerzõdést a DARPA (Fejlett Védelmi Kutatási Projektek Ügynöksége), az amerikai hadsereg fejlesztésekért felelõs ügynöksége ítélte oda a cégnek.
A minisztérium bejelentése szerint a „robot platformok humanoid típusúak lesznek, két lábbal, testtel, két karral és kézzel, érzékelõvel ellátott fejjel és beépített számítógéppel rendelkeznek majd.”

Szóval nem csak az alternatív média aggódik az MI esetleges lázadása miatt.