Четирите най-големи консултантски компании в света се надпреварват да създадат нов тип одит, който проверява ефективността на инструментите за изкуствен интелект. По този начин те се стремят да извлекат полза от търсенето на клиентите за доказателства, че техните AI системи работят и са безопасни.

Deloitte, EY и PwC коментират пред Financial Times, че се готвят да пуснат услуги за гарантиране на изкуствения интелект, като се надяват да използват репутацията, спечелена във финансовите одити, за да спечелят поръчки по оценяване на това дали системите за изкуствен интелект, като тези в самоуправляващите се автомобили и програмите за откриване на рак, функционират както е предвидено.

Одитите биха отворили нов силен източник на приходи, подобно на случая, когато те се възползваха от тенденцията компаниите да купуват гаранции за своите показатели в областта на околната среда, социалната отговорност и управлението (ESG). Тази стъпка идва в момент, в който някои застрахователи започнаха да предлагат покритие за загуби, причинени от неправилно функциониращи AI инструменти, като чатботове за обслужване на клиенти.

Телекомуникационните оператори ще трябва да се придържат към различни насоки в зависимост от контекста и приложението на технолгията

Какви рискове създава интеграцията на AI за телекомите?

Одиторите се надяват, че търсенето на новите услуги за AI гаранции ще бъде подкрепено от необходимостта от по-голямо доверие в технологията и желанието на компаниите да потвърдят, че спазват регулациите.

„AI гаранциите са критични за приемането на AI“, коментира пред Financial Times Ричард Тедър, одиторски партньор в Deloitte. „Компаниите ще искат гаранции за изкуствения интелект, който използват за управление на критични функции. Индивидуалните потребители също ще искат гаранции, ако започнат да използват услуги с изкуствен интелект за управление на критични аспекти от живота си, като здравето или финансите си“.

„PwC UK ще пусне AI гаранция скоро“, казва и Марк Бена, главен технологичен директор за одит.

Компанията вече работи по оценката на „специфични клиентски инструменти, като например проверка дали чатботовете отговарят точно на въпросите и идентифициране на проблеми като пристрастност“.

Institute of Chartered Accountants in England and Wales, професионална организация, миналия месец провежда първата си конференция по темата, тъй като големите счетоводни компании се опитват да оформят нововъзникващата област и да избегнат загуби от гъвкавите стартиращи компании. Но Прагасен Морган, лидер по технологични рискове в EY UK, предупреждава, че разработването на системи за гарантиране на изкуствен интелект може да отнеме време, особено поради големите потенциални отговорности за одиторите, ако гарантираният продукт не работи както се очаква.

„Все още сме далеч от момента, в който ще можем да кажем, че даваме еднозначна гаранция за AI модел“, казва той, като отбелязва, че тъй като моделите продължават да поглъщат данни и да се развиват с времето, те не винаги ще реагират по един и същи начин в даден сценарий.

Въпреки че все повече страни по света използват възможностите на тези технологии за добро, това води и до все повече рискове

Облакът и AI – една чудесна комбинация, криеща много рискове за държавите

„Така че да дадем пълна гаранция за това не е нещо, за което мисля, че сме готови, нито пък някоя от другите големи компании, поне засега“, посочва Морган.

Според проучване на правителството стотици организации във Великобритания вече предоставят различни форми на AI гаранции. Но това се прави предимно от самите AI разработчици, което поражда опасения относно независимостта им.

За разлика от одитите на финансовите отчети, на новосъздадения пазар на гаранции за AI липсва стандартизация, което означава, че нивото на предоставяната проверка варира значително. Някои „гаранции“ могат да бъдат леки съвети или да се ограничават до проверка дали AI отговаря на конкретен законодателен акт.

Проучване на Министерството на науката, иновациите и технологиите на Обединеното кралство установява, че търсенето на гаранции за AI навлиза най-вече в сектори като финансовите услуги, биологичните науки и фармацевтичните компании.