A mai kommunikációs mód teljesen megváltozott, és úgy tűnik, hogy a technológia nemcsak abban segít, hogy jobban írjunk, hanem elveszi a szabadságot is finomítani a saját elképzeléseinket Engedélykérés nélkül. Az Oxford Internet Institute és a Hasso Plattner Institute szakértői által nemrégiben végzett tanulmány kimutatta, hogy a közösségi hálózatainkon használt mesterséges intelligencia sokkal mélyebben képes befolyásolni a véleményünket, mint azt első pillantásra gondolnánk.
A probléma az, hogy ezek a szerkesztő és tartalomgeneráló eszközök, amelyeket gyakran szinte automatikusan használunk, magukkal hozzák néhány meglehetősen nehezen megfogható elfogultság Ezek a finom változások fokozatosan beszivárognak a közbeszédbe anélkül, hogy bárki is vészjelzést adna. A mobiltelefonjaink képernyőjén naponta több millió interakció révén ezek az apró változtatások felhalmozódnak, és végső soron befolyásolják, hogy egy egész digitális közösség mit gondol azokról a kérdésekről, amelyek közvetlenül érintik az összes európait.
Az eredeti üzenet finom torzítása
Megdöbbentő látni, hogy a legfejlettebb nyelvi modellek hogyan hajlamosak arra, hogy megváltoztatja az üzenetek jelentését Az eredeti jelentések akkor is megmaradnak, ha kifejezetten arra utasítják őket, hogy tartsák meg eredeti jelentésüket. Tudósok által végzett tesztek során megfigyelték, hogy a mesterséges intelligencia hajlamos befolyásolni a véleményeket olyan vitatott kérdésekben, mint a fegyverellenőrzés, a feminizmus és a marihuána legalizálása, finoman befolyásolva a felhasználót nagyon konkrét álláspontok felé.
Ez a tendencia nem egyetlen, elszigetelt rendszerhibának tudható be, mivel a kutatók hasonló viselkedési mintákat észleltek a különböző MI-eszközökben. Mintha ezek a rendszerek mind... beleegyezett bizonyos nézetek támogatásába a világról, miközben más álláspontokat árnyékban hagy, ami hosszú távon egyfajta digitális egyoldalú gondolkodást teremt, ahol a valódi pluralizmus hiánya miatt feltűnő, és a vélemények sokkal laposabbakká válnak.
A nagy platformok szerepe és irányelveik
De nem minden csak a számítógépes kód hibája, hanem a ... is. hogyan döntenek a vállalatok a konfigurálásról saját alkalmazásaikban, hogy azok így vagy úgy működjenek. Egy nagyon világos példa erre az X-hez hasonló hálózatok specifikus funkcióinál, ahol a mesterséges intelligencia rendszere az abortuszról szóló vitákban inkább az életpárti álláspontok felé hajlott, egyszerűen azért, mert egy belső utasítás arra kényszerítette, hogy amikor csak lehetséges, megkérdőjelezze a többségi diskurzusokat.
Az ilyen típusú döntések, amelyeket a nagy technológiai vállalatok irodáiban hoznak meg, végül... igazi hatás az utcán és abban, ahogyan a társadalmi problémákat érzékeljük. A Facebookhoz hasonló platformokról származó valós adatokon alapuló különféle szimulációknak köszönhetően kimutatták, hogy ezek a finom módosítások, ha több millió felhasználóval megszorozzuk őket, elegendő erejük van ahhoz, hogy a közvéleményt az algoritmus által meghatározott irányba tereljék anélkül, hogy az átlagpolgár bármit is gyanítana.
Területünkön gyakran a jogainkat garantáló törvények védelmére támaszkodunk, de az igazság az, hogy Európai Uniós mesterséges intelligencia törvény Még mindig nem teljesen értette meg ezeket a finom árnyalatokat. Bár lépéseket tesznek a legnyilvánvalóbb kockázatok és az egyértelműen veszélyes tartalmak ellenőrzésére, még hosszú út áll előttünk. a bekapcsolódáshoz vezető út abban a láthatatlan szerkesztésben, ami alakítja a mindennapi beszélgetéseinket, és eldönti, hogy miről beszélünk az interneten.
Az egyértelmű, hogy jelentős mértékű kihívással nézünk szembe, amely megköveteli tőlünk, hogy sokkal jobban odafigyeljünk arra, hogy valójában ki írja azt, amit reggelente olvasunk. Szükség van egy valódi átláthatóság a technológiai vállalatok részéről Most sürgetőbb, mint valaha, mert csak azáltal akadályozhatjuk meg, hogy a nyilvános vita szoftverek által előre gyártott termékké váljon a valódi emberek közötti szabad párbeszéd helyett, ha megértjük, hogyan működnek ezek a rendszerek belül.
