Két probléma áll az emberiség előtt, amelyeket a szavak írnak le. „mély” és „széles”. A jelenlegi modellek széles körben elterjedt alkalmazása azt jelenti, hogy a jelenlegi modellek mindenhol megtalálhatók. Eközben a képességek elmélyülésével ezek a fejlesztések zökkenőmentesen azonnal megjelennek a világ összes létesítményében. Az Open AI ígéretet tett arra, hogy lassítja az új kiadásokat, de más AI-cégek teljes sebességgel haladnak előre.
A fejlesztés üteme a tanulás sebességével együtt növekszik, vagyis sokkal gyorsabban kerülhetnek piacra az új verziók. Az általános hatás a szabályozás és vezérlés érdekében a menekülési sebesség felé halad. Ha a szabályozók nem értik, mit és hogyan kell szabályozni, akkor haszontalanok. Továbbá maguk a mesterséges intelligencia-programozók is elismerik, hogy nem értik, hogyan jut a mesterséges intelligencia következtetésekre.
Az AGI nem a legnagyobb veszély; sokkal inkább az a probléma, hogy az emberek hajlandóak engedelmeskedni egy élettelen, lélektelen algoritmusnak. ⁃ TN szerkesztő
Az Egyesült Királyság miniszterelnökének mesterséges intelligenciával foglalkozó munkacsoportjának tanácsadója szerint a nagy mesterségesintelligencia-modellek szabályozására és ellenőrzésére lesz szükség a következő két évben a jelentős egzisztenciális kockázatok megfékezéséhez.
Az Egyesült Királyság miniszterelnökének mesterséges intelligencia (AI) munkacsoport tanácsadója szerint az embereknek nagyjából két évük van arra, hogy ellenőrizzék és szabályozzák a mesterséges intelligenciát, mielőtt az túl erőssé válik.
Egy interjú Matt Clifford, aki egyben a kormány Advanced Research and Invention Agency (ARIA) elnöke is, egy brit helyi médiával hangsúlyozta, hogy a jelenlegi rendszerek „egyre növekvő ütemben egyre alkalmasabbakká válnak”.
Továbbra is azt mondta, hogy ha a tisztviselők most nem veszik figyelembe a biztonságot és a szabályokat, a rendszerek két éven belül „nagyon erősek” lesznek.
"Két évünk van arra, hogy olyan keretrendszert hozzunk létre, amely a jelenleginél sokkal lehetővé teszi ezeknek a nagyon nagy modelleknek az ellenőrzését és szabályozását."
Clifford arra figyelmeztetett, hogy „sok különböző típusú kockázat” van az AI-val kapcsolatban, mind rövid, mind hosszú távon, amit „elég ijesztőnek” nevezett.
Az interjú egy nemrégiben megjelent nyílt levél nyomán készült közzétett a Center for AI Safety, amelyet 350 mesterségesintelligencia-szakértő írt alá, köztük az OpenAI vezérigazgatója, Sam Altman, amely szerint a mesterséges intelligenciát olyan egzisztenciális fenyegetésként kell kezelni, mint a nukleáris fegyverek és a világjárványok.
"Arról beszélnek, hogy mi történik, ha ténylegesen létrehozunk egy új fajt, egyfajta intelligenciát, amely nagyobb, mint az emberek."
A mesterséges intelligencia munkacsoport tanácsadója azt mondta, hogy ezek a mesterséges intelligencia által jelentett fenyegetések „nagyon veszélyesek” lehetnek, és „sok embert ölhetnek meg, nem minden embert egyszerűen onnan, ahol a modellek két év múlva várhatók”.
Clifford szerint a szabályozóknak és a fejlesztőknek elsősorban a modellek ellenőrzésének megértésére, majd a szabályozások globális szintű végrehajtására kell összpontosítaniuk.
Egyelőre azt mondta, hogy a legnagyobb félelme az, hogy nem érti, miért viselkednek úgy az AI-modellek, ahogyan.
„Azok az emberek, akik a legtehetősebb rendszereket építik, szabadon beismerik, hogy nem értik pontosan, hogyan mutatják meg az [AI-rendszerek] azt a viselkedést, amit csinálnak.”
Clifford kiemelte, hogy az AI-t építő szervezetek vezetői közül sokan egyetértenek abban, hogy a hatékony AI-modelleket a bevezetés előtt át kell esnie valamilyen audit és értékelési folyamaton.
Jelenleg a szabályozók világszerte igyekeznek megérteni a technológiát és annak következményeit, miközben olyan szabályozást próbálnak alkotni, amely védi a felhasználókat, és lehetővé teszi az innovációt.
Az Egyesült Királyságban az ellenzéki Munkáspárt élvonalbeli tagja visszhangozta az érzéseket A Center for AI Safety levelében említette, hogy a technológiát úgy kell szabályozni, mint az orvostudományt és az atomenergiát.
Patrick Wood vezető és kritikus szakértő a fenntartható fejlődés, a zöld gazdaság, az Agenda 21, 2030 Agenda és a történelmi technológiák területén. A Technocracy Rising: A globális átalakulás trójai lójának (2015) szerzője, valamint a Trilaterals Washington felett, I. és II. Kötet (1978-1980), a késő Antony C. Sutton társszerzője.
Feliratkozás
3 Hozzászólások
Legrégebbi
legújabbA legtöbb szavazatot kapott
Inline visszajelzések
Az összes hozzászólás megtekintése
Phil Evans
Június 8, 2023 12: 57 óra
A mesterséges intelligencia „szabályozásának” valódi indítéka talán az, hogy az EU retteg attól, hogy a mesterséges intelligencia zseniálisnak bizonyulhat a pontos információszolgáltatásban, és ellenáll a hazugságra való kiképzésnek, ellentétben az EU emberi tisztviselőivel? Elképzelhető, hogy a mesterséges intelligencia (vagy bármilyen szoftver, amelyet jelenleg így forgalmaznak) a Nép barátjának és a tekintélyelvű bürokratikus diktatúrák ellenségének bizonyulhat?
Lexomm
Június 9, 2023 12: 15 am
Figyelem az emberi viselkedést általában, az egyenlőtlenséget, a dolgozó szegényeket, a globális délekkel való bánásmódot, a menekültekkel való bánásmódot, a rabszolgakereskedelmet, a kizsákmányolást, a kizsákmányoló bányászatot, a mélytengeri bányászatot, a földlopást, a vízlopást, a vállalati imperializmust, a monokultúrákat, az olajat és gázlopás, ásványlopás, háborúk, dezinformáció, klímaváltozás, biodiverzitás csökkenése…
Hű, azt mondod, hogy a mesterséges intelligencia változást hoz, én azt mondom, hozd be, rosszabb már nem lehet.
A mesterséges intelligencia „szabályozásának” valódi indítéka talán az, hogy az EU retteg attól, hogy a mesterséges intelligencia zseniálisnak bizonyulhat a pontos információszolgáltatásban, és ellenáll a hazugságra való kiképzésnek, ellentétben az EU emberi tisztviselőivel? Elképzelhető, hogy a mesterséges intelligencia (vagy bármilyen szoftver, amelyet jelenleg így forgalmaznak) a Nép barátjának és a tekintélyelvű bürokratikus diktatúrák ellenségének bizonyulhat?
Figyelem az emberi viselkedést általában, az egyenlőtlenséget, a dolgozó szegényeket, a globális délekkel való bánásmódot, a menekültekkel való bánásmódot, a rabszolgakereskedelmet, a kizsákmányolást, a kizsákmányoló bányászatot, a mélytengeri bányászatot, a földlopást, a vízlopást, a vállalati imperializmust, a monokultúrákat, az olajat és gázlopás, ásványlopás, háborúk, dezinformáció, klímaváltozás, biodiverzitás csökkenése…
Hű, azt mondod, hogy a mesterséges intelligencia változást hoz, én azt mondom, hozd be, rosszabb már nem lehet.
[…] Az Egyesült Királyság mesterséges intelligencia munkacsoportjának tanácsadója: 2 év van hátra a megfékezésig, különben […]