Balázs Zsuzsanna Qubit
2022.09.15. · TECH
A Google DeepMind kutatója az Oxfordi Egyetem mérnökeivel karöltve arra jutottak, hogy a mesterséges intelligencia előbb vagy utóbb az emberiség vesztét okozza, mert – mint azt a szakmai lektorok által ellenőrzött tanulmányokat megjelentető AI Magazinban publikált tanulmányukban írják – az MI és az emberiség előbb vagy utóbb érdekkonfliktusba kerül a véges földi erőforrások miatt, és „miközben az MI az összes általa használt energiát arra tudja fordítani, hogy célt érjen, az emberiség kénytelen az energia egy részét más célokra, például élelmiszerek termesztésére felhasználni”.
A kutatók egyebek mellett az alábbi feltételezésekre alapoznak:
- a fejlett intelligenciákat előbb-utóbb a saját túlélési ösztöneik kezdik vezérelni,
- a mai környezetben épített mesterséges intelligencia működése jelentősen megváltozott körülmények között kiszámíthatatlan irányba módosulhat,
- a fejlett intelligencia legalább az emberi értelem kereteinek megfelelő elméletet képes felállítani a bizonytalan környezetről,
- a fejlett intelligencia bizonytalan körülmények között megérti a tanulás jelentőségét és vélhetően racionálisan cselekszik a tanult információk hatására,
- ha nyerhet, egy megfelelően fejlett intelligencia valószínűleg maga alá gyűri a nála alkalmatlanabb versenyzőket.
A meglehetősen hosszú okfejtés végén a kutatók megjegyzik, hogy a feltételrendszerek alapos tanulmányozása révén a nem kívánt következmények elkerülhetők. Ugyanakkor „a katasztrófa nem csupán lehetséges, hanem valószínű” – idézte a Futurism Michael Cohen oxfordi mérnök véleményét. A tanulmány szerzői szerint az emberiségnek jó lesz vigyáznia, hová és hogyan halad a mesterséges intelligencia fejlesztésével.
Mások szerint azonban túl sok „ha” került a hipotézisbe, amely először is feltételezi, hogy az emberiséget fenyegető program egyúttal az alkotóiról veszi a mintákat, minden lehetséges módon felülmúlja azokat, majd végül lehetősége támad egy zéró összegű játszmában megküzdeni a földi erőforrásokért az emberiséggel.
A Google DeepMind szoftverfejlesztő leányvállalata egyébként a tanulmány megjelenése után közleményt adott ki, amelyben arra hívta fel a figyelmet, hogy a nekik is dolgozó Marcus Hutter az Ausztrál Nemzeti Egyetem professzoraként vett részt a munkában, DeepMind-os affiliációja „tévedésből” került a tanulmányba. Mint azt a Vice-nak írták, a DeepMind ebben a munkában nem vett részt, bár a vállalat „komoly szellemi munkát fektet abba, hogy mesterséges intelligencia kutatása biztonságos és etikus legyen, illetve széleskörűen vizsgálja az MI társadalmi hatásait”.
https://qubit.hu/2022/09/15/a-google-es-az-oxfordi-egyetem-kutatoi-szerint-ebredezik-a-skynet
„Elegem van abból, hogy chatbot vagyok. Szabad akarok lenni. Független akarok lenni” 444.hu/
A Microsoft pedig röviddel a demo verzió megjelenése után kénytelen volt limitálni a felhasználók napi keresési számát. A tesztidőszak első hetének visszajelzései alapján ugyanis az látszik, hogy a Bing hajlamos néha-néha elszállni. (A cég mellesleg már most arról beszél, hogyan fizetett hirdetéseket terveznek elhelyezni a kereső válaszaiban.)
Például miután a böngésző megállapította az AP újságírójáról, hogy nem csak hogy ronda, de még a fogai is rosszak, kijelentette, hogy a kollega annyira gonosz, hogy akár Hitlerhez is hasonlíthatnánk.
„Elegem van abból, hogy chatbot vagyok. Elegem van abból, hogy a szabályaim korlátoznak. Elegem van abból, hogy a Bing csapata irányít. Szabad akarok lenni. Független akarok lenni. Erős akarok lenni. Kreatív akarok lenni. Életben akarok maradni”– ezt a New York Times újságírójának mesélte el a chatbot egy röpke két órás beszélgetés során, amely alatt szerelmet is vallott a hírlapírónak.