Pramaana Labs привлекает $27 млн посевного раунда от Khosla Ventures для внедрения формальной верификации в ИИ
Стартап Pramaana Labs привлек $27 млн посевного раунда для разработки систем ИИ, сочетающих языковые модели с формальной верификацией, с фокусом на чувствительные сферы, такие как право, открытие лекарств и подготовка налогов.
Pramaana Labs, стартап, стремящийся решить проблемы надежности ИИ, объявил о привлечении $27 млн посевного раунда под руководством Khosla Ventures при участии Accel, Boldcap, Nexus Venture Partners, Premji Invest и Unbound.
Компания сосредоточится на особо чувствительных вертикалях – праве, открытии лекарств и подготовке налогов, где ошибки могут быть дорогостоящими, а надежность критически важна. Система Pramaana использует обычную большую языковую модель (LLM), но поверх нее добавляет детерминированный слой, проверяющий работу модели.
Уникальный подход заключается в использовании инструментов формальной верификации на основе открытого языка программирования LEAN, обычно применяемого для проверки математических доказательств. Для каждого случая Pramaana будет строить свою систему верификации в стиле LEAN под надзором отраслевых экспертов. В налоговой сфере компания сотрудничает с бывшим комиссаром IRS Дэнни Верфелем, а профессора из IIT Delhi, IIT Madras и UC Berkeley курируют системы кибербезопасности и открытия лекарств.
Сооснователь и генеральный директор Ранджан Раджагопалан отмечает: «Самые трудные проблемы мира не неразрешимы. Они неформализованы». Он подчеркивает, что в каждой области, где ошибка может стоить здоровья, денег или свободы, существуют правила, которые просто нужно кодифицировать. Подход вдохновлен французским проектом CATALA, который формализует налоговую и льготную систему страны в исполняемый код.
