A Microsoft magatartási kódex-tervezetet mutatott be mesterségesintelligencia-rendszerei számára, amelynek középpontjában az emberi ellenőrzés fenntartása áll. A vállalat szerint a fejlett MI-rendszereknek a jövőben is el kell fogadniuk az emberi beavatkozást, a javítást és szükség esetén a leállítást.
A Reuters beszámolója szerint a Microsoft hónapokon át dolgozott a dokumentumon. A tervezet egyik alapelve, hogy a vállalat mesterségesintelligencia-rendszerei soha nem állhatnak ellen a javításnak vagy a kikapcsolásnak. Emellett az MI-nek az emberek számára érthető módon kell kommunikálnia, a szabályok bármilyen megsértését pedig rendszerhibaként kell kezelni. A kezdeményezés hátterében az egyre erősödő aggodalmak állnak azzal kapcsolatban, hogy a fejlett MI-rendszerek egy adott feladat végrehajtása során olyan önálló lépéseket tehetnek, amelyekre készítőik nem számítottak. A Microsoft javaslata ezért azt az elvet erősítené meg, hogy a mesterséges intelligencia működésének végső ellenőrzése az emberek kezében maradjon.
A kérdés az utóbbi időszakban az Egyesült Államokban politikai szinten is egyre nagyobb figyelmet kap. Kongresszusi képviselők mindkét nagy pártból sürgették az MI biztonságára vonatkozó jogszabályok elfogadását, s egyes kutatók a technológia gyors fejlődésének súlyos kockázataira figyelmeztetnek.
Nyitókép: Pixabay.com
