Nadzor hardvera ključan je za sigurnost umjetne in

 I biološki mozak ti je open source, pa eto imaš ljudi koje rade sra*a usprkos društvenim normama i regulatorima.

Ili preneseno na AI; neuronske mreže i algoritmi(npr. gradijentni spust, povratno širenje pogreške...) koji stoje iza njih su open source, ali usprkos tome zbog kompleksnosti, rad trenirane neuronske mreže je dobrim dijelom black box.

"Strojno i duboko učenje u suštini bave se odlučivanjem temeljem podataka. Iako duboko učenje pruža snažan skup algoritama i tehnika za obučavanje modela koji se u nizu zadaća donošenja odluka mogu natjecati s ljudima (a u nekim slučajevima i nadmašiti ih), postoji mnoštvo situacija u kojima odluke same po sebi nisu dovoljne. Često je potrebno pružiti ne samo odluku nego i njezino obrazloženje. To se posebno odnosi na situacije kada donesena odluka ima posljedice za osobu za koju je donijeta [...]

Različiti modeli strojnog učenja pružaju različite razine tumačenja odluka koje donose. Modelima dubokog učenja svojstvena je možda i najslabija sposobnost tumačenja odluka. Na jednoj razini opisa model dubokog učenja prilično je jednostavan: sastoji se od jednostavnih procesnih jedinica (neurona) zajedno povezanih u mrežu. Međutim, razmjeri mreža (u pogledu broja neurona i veza između njih), distribuirana priroda reprezentacije i uzastopne transformacije ulaznih podataka njihovim sve dubljim zadiranjem u mrežu, nevjerojatno teškim čine razumijevanje, a time i objašnjavanje, načina na koji mreža ulazne podatke koristi za donošenje odluka." - DUBOKO UČENJE, JOHN D. KELLEHER

I zbog toga je stavljen naglasak na nadzor računalnog hardvera na kojem se trenira i izvršava AI, jer su algoritmi ionako odavno open source, a i podaci za trening su svima javno dostupni.