Lenz IO въвежда финансова гаранция от 10 000 евро за неточности на AI
Lenz IO разработва независима платформа за верификация на резултатите от изкуствения интелект, подкрепена с финансова гаранция от 10 000
Lenz IO разработва независима платформа за верификация на резултатите от изкуствения интелект, подкрепена с финансова гаранция от 10 000 евро за всяка допусната грешка. Това представи основателят и изпълнителен директор Костадин Йорданов в предаването UpDate по Bloomberg TV Bulgaria с водещ Антоанет Василева.
В основата на идеята стои признанието, че настоящите AI модели не са безгрешни и често демонстрират „халуцинации“ — измислени или неточни факти. Заради това много компании прилагат модела „човек в процеса“ (human-in-the-loop) за окончателен контрол при вземане на важни решения или при комуникация с клиенти.
Резултати от вътрешен анализ
Вътрешен анализ на Lenz IO, базиран на 1000 твърдения от сфери като политика и наука, показва, че в 63% от случаите различните модели дават несъответстващи отговори. Това означава, че потребителите могат да получат различни резултати в зависимост от избрания модел, което увеличава риска от грешки при критични приложения.
Йорданов посочи, че именно тези данни подкрепят необходимостта от отделен слой за верификация, който да засили точността над това, което може да осигури всеки един модел поотделно.
Как работи независимият слой
Lenz IO предлага технологичен слой, който работи по аналогия със съдебна зала: множество техники се комбинират, за да се повиши прецизността и надеждността на крайния резултат.
Основни техники
– Независимо проучване: платформата не разчита само на вътрешната памет на моделите, а предварително събира и класира външни източници по качество.
– Дебат между модели: различни AI системи от конкурентни доставчици влизат в ролята на защитник и опонент, за да изведат и уточнят най-добрите аргументи.
– Панелно гласуване: множество модели гласуват за крайния извод, което намалява влиянието на индивидуалните предразсъдъци и грешки на отделните алгоритми.
Тези подходи целят да неутрализират слабостите на единичните модели и да постигнат по-надежден, проверен резултат за бизнеса.
Финансова и бизнес логика
В контраст с практиката на големите технологични компании, които често се освобождават от отговорност чрез откази от гаранции, Lenz IO предлага пълна прозрачност по отношение на източниците и дебатите между моделите. Компанията подкрепя верифицираните резултати с финансова гаранция от 10 000 евро за всяка допусната грешка и води преговори със застрахователи за значително увеличаване на този лимит.
Йорданов обясни, че целта е платформата да бъде не само технологично решение, но и средство за прехвърляне на риска, който бизнесите поемат при използване на AI. Това е особено важно за сектори с високи рискове като финанси и здравеопазване, където грешките могат да струват много скъпо.
Пазарни перспективи и независимост
Независимият характер на платформата е едно от предимствата ѝ — чрез използване на модели от различни доставчици се увеличава вероятността за по-точен краен резултат, докато отделните големи играчи са склонни да не използват решения на конкурентите си и не очакват да предлагат собствени финансови гаранции.
Йорданов прогнозира, че проверката и сертифицирането на AI резултатите ще се оформят като самостоятелен технологичен пазар. Като подкрепа за тази идея той цитира прецедент с глоба в Германия за резултат, който AI е „халуцинирал“, случил се преди два месеца според разговора в предаването. Този случай, по думите му, показва как компаниите могат да загубят пари и репутация заради публикувана некоректна информация.
Йорданов не очаква значителни сривове на пазара на AI, но отбеляза, че бъдещите промени ще зависят и от това дали търсенето ще съответства на нарастващите капацитети на центровете за данни. В дългосрочен план той остава убеден, че изкуственият интелект ще окаже значителен положителен ефект за бизнеса и няма да липсва търсене за AI услуги.


