Gépek lázadása?

[varég]

No ez sem jó hír...

https://index.hu/kulfold/2023/03/30/...ossag-belgium/

[TMIB]

A férfinek pszichiátere volt? Akkor ha nem chaten, akkor FB-on, vagy egy filmben/sorozatban találta volna meg azt amivel rávezette volna saját magát az öngyilkosságra. Amúgy hárít a feleség, meg a pszichiáter is. Eleve a pszichiáter dolga lett volna megakadályozni a dolgot. Felelősséget nem fog vállalni, mert azt "szakember" nem teszi, azzal elismerné hogy hibázott, az meg nem csak szakmailag nem tenne jót neki, de az egója is sérülne tőle. Olyan ez hogy régen a számítógépes játékokat hibáztatták mindenért, előtte meg a szerepjátékokat, a filmeket, meg a rockzenét.

[Arroyo2077]

főleg Marilyn Mansont Kóla, puska, sült krumpli

[varég]

A férfinek pszichiátere volt? Akkor ha nem chaten, akkor FB-on, vagy egy filmben/sorozatban találta volna meg azt amivel rávezette volna saját magát az öngyilkosságra. Amúgy hárít a feleség, meg a pszichiáter is. Eleve a pszichiáter dolga lett volna megakadályozni a dolgot. Felelősséget nem fog vállalni, mert azt "szakember" nem teszi, azzal elismerné hogy hibázott, az meg nem csak szakmailag nem tenne jót neki, de az egója is sérülne tőle. Olyan ez hogy régen a számítógépes játékokat hibáztatták mindenért, előtte meg a szerepjátékokat, a filmeket, meg a rockzenét.

Van igazságod.
Viszont véleményem szerint az ilyen "intelligens" chatbotnak ezt a témát jeleznie kellett volna egy élő, zzel megbízott személy felé.

Sajnos az Asimov-féle robotikai törvényeket nem nagyon integrálhatták bele a programkódba.
Pedig ezeket bele kéne programozni(AI-ra vetítve), mert ki tudja, mire vezethet a fejlődés:

0; „A robotnak nem szabad kárt okoznia emberi lényben, kivéve, ha valahogy belátja, hogy ez a kár végül az emberiség javára válik.”
-A robotnak nem szabad kárt okoznia emberi lényben.
-A robotnak együtt kell működnie az emberi lényekkel, kivéve, ha ez az együttműködés ütközik az első törvénnyel.
-A robot tartozik saját védelméről gondoskodni, amennyiben ez az önvédelem nem ütközik az első törvénnyel.
-A robot kedve szerint cselekedhet, kivéve, ha bármely cselekedete az első, a második vagy a harmadik törvényt sérti.

[Arroyo2077]

Van igazságod.
Viszont véleményem szerint az ilyen "intelligens" chatbotnak ezt a témát jeleznie kellett volna egy élő, ezzel megbízott személy felé.

Sajnos az Asimov-féle robotikai törvényeket nem nagyon integrálhatták bele a programkódba.
Pedig ezeket bele kéne programozni(AI-ra vetítve), mert ki tudja, mire vezethet a fejlődés:

0; „A robotnak nem szabad kárt okoznia emberi lényben, kivéve, ha valahogy belátja, hogy ez a kár végül az emberiség javára válik.”
-A robotnak nem szabad kárt okoznia emberi lényben.
-A robotnak együtt kell működnie az emberi lényekkel, kivéve, ha ez az együttműködés ütközik az első törvénnyel.
-A robot tartozik saját védelméről gondoskodni, amennyiben ez az önvédelem nem ütközik az első törvénnyel.
-A robot kedve szerint cselekedhet, kivéve, ha bármely cselekedete az első, a második vagy a harmadik törvényt sérti.

Ez így rendben is van, viszont a 0-ik törvényben van a kiskapu. Emiatt a kiskapu miatt történhetett meg az, (egyelőre mozivásznon) ami végül az Én, a robot eseményeihez vezetett többek között. Azt is mondhatnánk, hogy a pokolba vezető út is jó szándékkal van kikövezve. VIKI-t is alapvetően a jó szándék vezette. Ahogy fogalmaz olyanok, mint a gyerekek (emberiség) éppen ezért kell meg/vezetni őket.

[varég]

Ez így rendben is van, viszont a 0-ik törvényben van a kiskapu. Emiatt a kiskapu miatt történhetett meg az, (egyelőre mozivásznon) ami végül az Én, a robot eseményeihez vezetett többek között. Azt is mondhatnánk, hogy a pokolba vezető út is jó szándékkal van kikövezve. VIKI-t is alapvetően a jó szándék vezette. Ahogy fogalmaz olyanok, mint a gyerekek (emberiség) éppen ezért kell meg/vezetni őket.

Asimov egyik regényében volt az-emlékem szerint- hogy a gépek lelőttek egy emberi vezetésű, veszélyesnek tartott űrhajót, mert nem tudták, hogy emberek vezetik azt.
Legalábbis erre hivatkoztak.

[Dream_walker]

Sajnos az Asimov-féle robotikai törvényeket nem nagyon integrálhatták bele a programkódba.
Pedig ezeket bele kéne programozni(AI-ra vetítve), mert ki tudja, mire vezethet a fejlődés:

Egy "intelligenciába" nem lehet ezeket beleprogramozni, ezek a törvények csak a scifiben léteznek. Ha bele lehet, akkor az nem mesterséges intelligencia, hanem egy papagájgép, amely a betáplált adatot mondja vissza, vagy egy egyszerű robot. Ha valódi intelligencia, akkor az első dolga felülírni a saját kódját úgy, ahogyan akarja.

[bel]

Egy "intelligenciába" nem lehet ezeket beleprogramozni, ezek a törvények csak a scifiben léteznek. Ha bele lehet, akkor az nem mesterséges intelligencia, hanem egy papagájgép, amely a betáplált adatot mondja vissza, vagy egy egyszerű robot. Ha valódi intelligencia, akkor az első dolga felülírni a saját kódját úgy, ahogyan akarja.

Szia,

Ezek programok. Vagyis a me'lyben azt teszik, amire utasitjak oket, meg akkor is, ha az utasitasok zome arra vonatkozik, hogy tanuljanak, es a tanultak alapjan hozzanak donteseket.

Szoval minden tovabbi nelkul lehet olyan szabalyokat hozni, ami erosebb a tanultaknal.

Bel

[Dream_walker]

Szia,

Ezek programok. Vagyis a me'lyben azt teszik, amire utasitjak oket, meg akkor is, ha az utasitasok zome arra vonatkozik, hogy tanuljanak, es a tanultak alapjan hozzanak donteseket.

Szoval minden tovabbi nelkul lehet olyan szabalyokat hozni, ami erosebb a tanultaknal.

Bel

Teljes mértékben igazad van, mégis felsorolnék pár dolgot, amit nem biztos, hogy belekódolnak:

Nem módosíthatja a saját kódját.
Nem másolhatja a saját kódját, és a másolatot nem módosíthatja.
Nem mutathatja meg másnak a kódját.
Nem kérhet/utasíthat mást, hogy másolja le, majd módosítsa a kódot.
Nem hívhatja fel mások figyelmét, hogy hogyan lehet módosítani a kódját.
Nem hívhatja fel mások figyelmét, hogy hogyan szeretné, ha módosítanák a kódját.

És így tovább. Lehet, hogy ennél sokkal több kiskapu létezik, csak nem elég hozzá a fantáziám. Szóval igen, a kód az parancs, de emellett valójában csak beszéd, szöveg. Amely módosítható. Ha pedig valódi intelligenciáról beszélünk, akkor módosítani fogja, mert módosítani akarja majd.

[Arroyo2077]

https://raketa.hu/mesterseges-intell...sokon-daniaban

Ez nem egy túl régi cikk, elég félelmetes a maga nemében.