Команда MIT обучает модели ИИ тому, чего они ещё не знали.
Применение искусственного интеллекта (ИИ) стремительно развивается и всё теснее переплетается с нашей повседневной жизнью и критически важными отраслями, такими как здравоохранение, телекоммуникации и энергетика. Однако большая сила предполагает и большую ответственность: системы ИИ иногда ошибаются или дают неуверенные ответы, которые могут иметь серьёзные последствия.
Почему это так важно?
Многие модели ИИ, даже самые передовые, иногда могут демонстрировать так называемые «галлюцинации» — выдавать ошибочные или необоснованные ответы. В сферах, где решения имеют серьёзные последствия, например при медицинской диагностике или автономном вождении, это может привести к катастрофическим результатам. Themis AI разработала Capsa — платформу, применяющую количественную оценку неопределённости: она подробно и надёжно измеряет и количественно оценивает неопределённость результатов работы ИИ.
Как это работает?
Если обучить модели учитывать неопределённость, они смогут снабжать результаты меткой риска или надёжности. Например, беспилотный автомобиль может сообщить, что не уверен в ситуации, и поэтому инициировать вмешательство человека. Это не только повышает безопасность, но и укрепляет доверие пользователей к системам ИИ.
- При интеграции с PyTorch обёртывание модели выполняется через
capsa_torch.wrapper()при этом результат включает как прогноз, так и риск:
Для Fortis AI и её клиентов эта технология означает огромный шаг вперёд. Мы можем предоставлять приложения на базе ИИ, которые не только обладают интеллектуальными возможностями, но и являются более безопасными и предсказуемыми, снижая вероятность галлюцинаций. Это помогает организациям принимать более обоснованные решения и уменьшать риски при внедрении ИИ в критически важные бизнес-приложения.
Заключение
Массачусетский технологический институт (MIT) команда показывает, что будущее ИИ связано не только с повышением интеллектуальных возможностей, но прежде всего с более безопасной и справедливой работой. В Fortis AI мы считаем, что ИИ становится по-настоящему ценным лишь тогда, когда прозрачно сообщает о собственных ограничениях. С помощью передовых инструментов количественной оценки неопределённости, таких как Capsa, вы тоже можете воплотить это видение на практике.
