A mély neurális hálók átverhetőségéről

Annak ellenére, hogy sok esetben milyen sikereket érnek el a konvolúciós neurális hálók, azért valahogy a dolog mégsem az igazi, mert ezek a rendszerek könnyen átejthetőek. Persze ez több dolgot is jelenthet. Az egyik, hogy mi emberek teljesen máshogy működünk, és a mostani irány zsákutca, amennyiben a cél az emberi látás működésének leutánozása. A másik, hogy valóban így működik a látásunk, de mindez csak egy része valami komplexebb rendszernek. Talán az agyunk egy kis része ugyanígy azt mondaná a lenti krix-krax-okra, hogy ott egy gitár van, vagy épp egy alma, de más részek amik más attribútumokat vizsgálnak, leszavazzák a látó rendszerünk ezen részét. Mindebből a tudatunkban annyi manifesztálódik, hogy az ott egy krix-krax, és semmiképp nem gitár, vagy alma. Szóval ami a lényeg, hogy ezek a tesztek nem feltétlenül a jelenlegi technológia hibájára utalnak. Lehet, hogy ezek csak hiányosságok, és csupán plusz komponensek hozzáadása szükséges, hogy emberi látáshoz jobban hasonlítsanak. 

#blog