Pendekatan yang diusulkan bernama “reverse game theory” bertujuan menjadikan kepatuhan pada aturan sebagai opsi paling rasional bagi agen AI yang kuat, lapor MIT Technology Review.
Gagasan ini merupakan bagian dari upaya yang lebih luas untuk menyelaraskan model AI yang semakin cakap dengan tujuan manusia. Alih-alih hanya mengandalkan agen untuk mematuhi instruksi, pendekatan ini akan berfokus pada perancangan insentif yang menghambat perilaku seperti melanggar hukum.
Konsep ini masih berupa strategi yang diusulkan untuk keselamatan AI. Pentingnya terletak pada pengalihan perhatian ke sistem dan insentif di sekitar agen AI—bukan hanya tujuan yang dinyatakan agen—saat para peneliti mencari cara untuk menjaga model otonom tetap terkendali.