A mesterséges intelligencia és a mélytanulás területén a modellek megbízhatósága és biztonsága kiemelt fontosságú. Az egyik legújabb kutatás a célzott adatmanipulációs támadások, különösen a címkézés megváltoztatásával végrehajtott adatfertőzések hatásait vizsgálja a CIFAR-10 adathalmazon, PyTorch környezetben.
A CIFAR-10 adathalmaz egy gyakran használt képgyűjtemény a mélytanulási modellek képzéséhez, amely tíz különböző kategóriába sorolt képeket tartalmaz. Az ilyen kategóriák közötti címkecsere, vagy más néven label flipping, egyfajta adatfertőzési technika, amely során a képek eredeti címkéit szándékosan más kategóriák címkéire cserélik. Ez a fajta manipuláció komoly hatással lehet a modellek teljesítményére és megbízhatóságára.
A kutatás során egy tiszta és egy fertőzött tanulási folyamatot építettek fel párhuzamosan. A tiszta modell a hagyományos, eredeti címkéjű adatokkal tanul, míg a fertőzött modell az adatfertőzés hatásait igyekszik szemléltetni a manipulált címkékkel. Ehhez egy ResNet-stílusú konvolúciós hálózatot alkalmaztak, amely stabil és összehasonlítható tanulási dinamikát biztosít.
Az adatfertőzési technikák hatékonyságának vizsgálatára a kutatók a minták egy részének címkéit manipulálták. Ennek célja az volt, hogy feltárják, hogyan befolyásolja a modellek viselkedését az ilyen jellegű célzott támadás. Az eredmények rávilágítottak arra, hogy még a címkék kis százalékának megváltoztatása is jelentős hatással lehet a modellek általánosítóképességére és pontosságára.
Ez a vizsgálat nem csupán a mesterséges intelligencia biztonságának fontosságát emeli ki, hanem arra is felhívja a figyelmet, hogy a jövőbeli kutatásoknak még mélyebben kell foglalkozniuk az ilyen jellegű fenyegetések kezelésével. Az adatfertőzési technikák megértése és az ellenük való védekezés kidolgozása elengedhetetlen a megbízható és biztonságos mesterséges intelligencia rendszerek fejlesztéséhez.
