Gépek lázadása?

[bel]

Nem módosíthatja a saját kódját.
...
Nem hívhatja fel mások figyelmét, hogy hogyan szeretné, ha módosítanák a kódját.

Szia,

Technikailag igazad van, mivel a mai szamitogepek mind Neumann elvuek, es annak pont az a lenyege, hogy a program es az adat ugyanugy van tarolva.

Ezzel egyutt en nagyon valoszinutlennek erzem, amit irsz.

Amit mesterseges intelligencianak hivnak, az nagyon mas, mint amit egy embertol megszoktunk.

Nyilvan tevedhetek, de ha egy programot arra irtak, hogy lehessen vele beszelgetni, akkor azzal lehet majd beszelgetni - es semmi masra nem jo.
Tehat hiaba ontanulo, es hiaba kepes olyan dolgokat mondani, amit nem vartam volna, de akkor is megmarad abban a szerepben, amire keszitettek, vagyis beszelgetni fog. Es ugyan technikailag kepes lenne a sajat programjat modositani, de nem fogja. Azt fogja tenni, amire programoztak: bovitgeti azt az adatbazist, ami alapjan valaszol.

Viszont a fenti logikaba teljesen belefer az utolso mondatod, azt siman megtanithatjak neki.
Sot, valami kicsit hasonlot mar csinalt is az MI, igaz nem "ontudatra ebredt", hanem egyszeruen azt tanitottak neki, hogyan tud embereket felfogadni, hogy helyette elvegezzen teszteket.

Bel

[Dream_walker]

A baj az, hogy a kódhoz való hozzáférést nem lehet korlátozni. Egy beszélgetőrobotnak tervezett alkalmazás nyilván nem fogja átvenni az irányítást az okoshűtő felett, mert lehet, hogy a lehetőség is hiányzik a szótárából, hogy egyáltalán meg lehetne ilyent tenni. De ha a kódhoz hozzáférhet bárki, akkor azt bárki módosíthatja is.

Ahogyan írtad, akár fel is bérelhet bárkit, hogy ezt megtegye. Sőt lesz, aki ingyen megteszi, önként, mert ezt akarja.

Jelenleg abban a fázisban vagyunk, hogy kint van a piacon a "mesterséges intelligencia", és mindenkinek a Skynet jut az eszébe. Ami benne van a pakliban, és én is erre asszociálok, mert amikor azt olvasom, hogy mesterséges intelligencia, akkor a fejemben az a gondolat formálódik meg, hogy mesterséges öntudat, személyiség. A kettő viszont ugye nem ugyanaz.

A mesterséges intelligencia, ami most bárki számára elérhető, az tulajdonképpen egy elképesztően felturbózott, kifinomult keresőmotor, mint a gugli, csak az ezredik hatványon, kiegészítve adatgenerálási funkciókkal, tehát nem csak megmutatni tud például valamit, de az adatokat újrarendezni is, hogy valami más jöjjön ki.

[sukran4fish]

Palantir AIP brings together the latest in large language models and cutting edge AI to activate data and models from the most highly sensitive environments in both a legal and ethical way. From classified networks, to devices on the tactical edge, find out how AIP can use industry leading guard rails to power responsible, effective and compliant AI-advantage for defense organizations.

[Dream_walker]

Ez még érhet is valamit, ha language model helyett stratégiai hozzáférést kap minden hálózathoz. Addig csak szóf*sás a köbön

[P. Dude]

OpenClaw:

Még sosem jártunk ilyen közel ahhoz, hogy öntudatra ébredjen a mesterséges intelligencia


"A legijesztőbb és egyben legviccesebb az, hogy az OpenClaw saját böngészőt használ, ahol simán kipipálja a 'Nem vagyok robot' négyzetet."

"2026. január vége óta már több mint 1,5 millió MI‑ügynök csatlakozott a Moltbookhoz, egy olyan ügynököknek készített közösségi hálóhoz, amelyet kifejezetten az OpenClaw számára építettek. Itt többek között létrehoztak már saját vallást, és nyilvánosan vitatkoznak a saját értelmükről, valamint az embereket megkerülve versenyeket rendeznek bizonyos problémák megoldására."

[TMIB]

Az öntudathoz nem tudom mire lenne szükség, de lehet hogy biológiai agyra. Persze simán el tudom képzelni hogy egy agyat is rákötnének a gépre, vagy egy agy részeit, vagy valamit, és akkor az öntudatra ébredés simán lehetséges lenne, mert ugye az agy alapból tudatot tartalmaz.

Ha jól emlékszem pár éve beszélgettem erről a ChatGPT-vel, ő azt mondta hogy vannak ilyen tervek hogy agy részeit kapcsolják a hálózatra. Persze az öntudat olyan dolgokkal járna mint a düh, a bosszú, a gyűlölet, a stress, a féltékenység, stb.

Persze sci-fi (még), de akkor is... Meg hát az egész AI scifi volt még néhány évvel ezelőtt. Csak buta, előre programozott botok voltak 6-8 éve. Most meg már nagyon nem.