Екипът на MIT учи моделите с изкуствен интелект на неща, които те все още не са знаели.
Приложението на изкуствения интелект (AI) се разраства бързо и все повече се преплита с ежедневието ни и с критично важни индустрии като здравеопазването, телекомуникациите и енергетиката. Но с голямата сила идва и голяма отговорност: системите с изкуствен интелект понякога допускат грешки или дават несигурни отговори, които могат да имат сериозни последици.
Защо това е толкова важно?
Много модели с изкуствен интелект, дори усъвършенстваните, понякога могат да проявяват т.нар. „халюцинации“ — да дават неправилни или необосновани отговори. В сектори, в които решенията са от критично значение, като медицинската диагностика или автономното шофиране, това може да има катастрофални последици. Themis AI разработи Capsa — платформа, която прилага количествено измерване на неопределеността: тя измерва и количествено определя несигурността на резултатите от изкуствения интелект по подробен и надежден начин.
Как работи това?
Като се научат моделите да отчитат неопределеността, резултатите им могат да бъдат придружавани от обозначение за риск или надеждност. Например автономният автомобил може да сигнализира, че не е сигурен как да интерпретира дадена ситуация, и по тази причина да активира човешка намеса. Това не само повишава безопасността, но и укрепва доверието на потребителите в системите с изкуствен интелект.
- При интеграция с PyTorch обвиването на модела се извършва чрез
capsa_torch.wrapper()като изходът съдържа както прогнозата, така и риска:
За Fortis AI и нейните клиенти тази технология представлява огромна крачка напред. Можем да предоставяме приложения с изкуствен интелект, които са не само интелигентни, но и по-сигурни и по-предвидими, с по-малка вероятност от халюцинации. Това помага на организациите да вземат по-добре обосновани решения и да намалят рисковете при внедряването на AI в критични за бизнеса приложения.
Заключение
МИТ екип показва, че бъдещето на изкуствения интелект не се свежда само до това да стане по-интелигентен, а преди всичко до това да функционира по-безопасно и по-справедливо. В Fortis AI вярваме, че изкуственият интелект става наистина ценен едва когато е прозрачен относно собствените си ограничения. С усъвършенствани инструменти за количествено измерване на неопределеността като Capsa можете да приложите тази визия и на практика.
