gov-civil-vilareal.ptAI се приближава зловещо до Данни от Star Trek: TNG сега, когато знае дали можете да му се доверите или не
>Може да не е толкова самосъзнаващо се, както данните от Star Trek: TNG (все още), особено след като този дроид може да се грижи по -добре за котка, отколкото някои хора, но AI вече е достигнал точката на осъзнаване, когато не е надежден.
Това, което сега се нарича дълбока доказателствена регресия е изравнил самосъзнанието на AI. Той ще знае кога има по -голям шанс да допусне грешка при прогнозиране, въз основа на оценка на надеждността на данните, които разглежда. По -вероятно е бъдещите прогнози да се сбъднат, ако са повлияни от по -задълбочени и точни данни. Обратното означава, че нещата вероятно ще се объркат - и AI може да усети това. Когато оценява своята сигурност за нещо, тази сигурност ще се увеличава и намалява в зависимост от данните, които се подават. След това AI може да определи риска или несигурността с 99% точност.
не казвай на мама, че бавачките са мъртви
Изглежда, че дори Пикар би бил впечатлен - но изчакайте. Има само един недостатък на самосъзнаващите се роботи и той е, че 99% не е пълна сигурност, без значение колко близо е тя. Отсъствието само с 1% може да означава бедствие в потенциално животозастрашаващи сценарии, от шофиране на автономна кола до извършване на операция. Страшен.
Докато [дълбоката доказателствена регресия] представя няколко предимства пред съществуващите подходи, основните му ограничения са в настройването на коефициента на регуларизация и в ефективно премахване на подвеждащи доказателства при калибриране на несигурността, каза MIT Ph.D. студент Александър Амини , който ръководи проучване, което ще представи на конференцията NeurIPS следващия месец.
Това, което Амини и екипът му успяха да направят, все още е доста забележително. Преди това използването на AI за оценка на несигурността беше не само скъпо, но и твърде бавно за решения, които трябва да се вземат за части от секундата. Невронните мрежи могат да бъдат толкова огромни, че може да им отнеме цяла вечност, за да изчислят отговора, а чакането да научат нивото на увереност би било твърде дълго, за да се притеснявате дори да полагате усилия. Би било безсмислено да използвате нещо подобно в себе си -шофираща кола, която трябва да знае кой завой да направи веднага. Процесът е ускорен чрез дълбока доказателствена регресия. Тази невронна мрежа трябва да работи само веднъж, за да установи нивото на несигурност.
Като се досетите за несигурността в модел, който AI вече е научил, той може да ни каже приблизително колко широк е маржът за грешка. AI използва доказателства, за да подкрепи своята оценка. Това доказателство включва всяка несигурност, която се крие или в току-що анализираните от невронната мрежа данни, или в самосъзнанието си колко е уверена в собственото си решение. Амини и неговият екип тестваха метода за дълбока доказателствена регресия, като обучиха AI да оцени дълбочината на всеки пиксел в изображението. Възприемането на дълбочината може да означава живот или смърт при операция, която трябва да премахне тумор, който може да се намира дълбоко в тялото и да се вижда трудно по друг начин.
AI е предимно точен, но се обърка веднъж се подаваха изображения, които бяха по -трудни за запомняне. Поне имаше едно нещо, за което беше последователно: Когато се сблъска с изображения, които му създаваха затруднения, той непрекъснато ще информира екипа за своята несигурност. Определената му граница за грешка може поне да научи изследователите как да подобрят този модел. Способността му да разпознава снимки, които са били Photoshopped, също отваря възможността за разпознаване на дълбоко фалшиви. Хората просто трябва да знаят, че този мозък на робота все още е грешен и ние не можем да му се доверим повече, отколкото той може да се довери на себе си.
Вярваме, че е необходимо по-нататъшно разследване, за да се открият алтернативни начини за премахване на подвеждащи доказателства, - каза Амини .
мога ли да проявя няколко неща наведнъж
Това означава, че AI, който може да мисли с помощта на дълбока доказателствена регресия, е доста надежден, стига резултатът от грешен отговор да не е смъртоносен.
