Lenz IO предлага финансова гаранция от 10 хил. евро за грешки на AI

Lenz IO разработва независим слой за верификация на резултатите от изкуствения интелект и предлага парична гаранция от 10 хил. евро за всяка допусната грешка, обяви основателят и изпълнителен директор Костадин Йорданов в предаването UpDate по Bloomberg TV Bulgaria.

Компанията аргументира инициативата с нарастващите рискове при използване на AI инструменти: макар моделите да напредват, те не са безгрешни и склонността към „креативност“ води до халюцинации — измислени или неточни факти. Поради това много фирми запазват модела „човек в процеса“ (human-in-the-loop) за окончателна проверка преди важни решения или контакт с клиенти.

Независим технологичен слой и методика

Lenz IO предлага „независим слой“ за проверка, който работи по модел, оприличен на съдебна зала. Целта е да се постигне по-висока прецизност, отколкото може да даде всеки отделен AI модел. Платформата комбинира няколко техники:

– Независимо проучване: вместо да разчита само на вътрешната памет на алгоритмите, системата предварително събира външни източници и ги класира по качество.
– Дебат между модели: различни AI решения от конкурентни доставчици влизат в ролята на защитник и опонент, за да изчистят и оформят най-добрите аргументи.
– Панелно гласуване: множество модели гласуват за крайния резултат, което намалява влиянието на индивидуални пристрастия и грешки.

Йорданов посочи, че вътрешен анализ на платформата върху 1000 твърдения от сфери като политика и наука е показал, че в 63% от случаите моделите дават различни отговори. Това означава, че потребителите могат да получат различни резултати в зависимост от избрания модел, което подчертава нуждата от независима верификация.

Финансова гаранция и нов бизнес модел

Вместо да се освобождава от отговорност чрез стандартни откази от гаранции, Lenz IO въвежда гаранционен механизъм: при установена грешка компанията ще осигури 10 хил. евро финансова компенсация за всяка такава. Йорданов добави, че вече се водят преговори със застрахователи за значително увеличаване на този лимит.

Според него идеята е платформата да бъде не само технологичен инструмент, но и средство за прехвърляне на риска за бизнеса, който използва AI. За сектори с високи залози — финанси, здравеопазване и други отрасли, в които грешките могат да бъдат много скъпи — плащането за допълнително ниво на сигурност би било оправдано.

Независимост и мултидоставчици

Едно от предимствата, които Lenz IO изтъква, е независимостта на платформата: използването на модели от различни доставчици намалява вероятността големите играчи да манипулират резултата, тъй като е малко вероятно те сами да разчитат на конкуренти. Йорданов очаква, че големите технологични компании едва ли ще предлагат финансови гаранции за достоверността на своите AI резултати.

Пазарна ниша и регулация

Йорданов прогнозира, че проверката и сертифицирането на AI резултати ще се оформят като самостоятелен технологичен пазар. Като аргумент за необходимостта от такава услуга той посочи и прецедент: глобалната санкция срещу Google в Германия преди два месеца за резултат, който AI е халюцинирал.

В същото време той не очаква съществени корекции на AI пазара в близко бъдеще, като подчерта, че всичко зависи от това дали търсенето ще съвпада с предлагането — особено по отношение на големите капацитети от центрове за данни, които се изграждат.

Дългосрочна перспектива

В дългосрочен план Йорданов смята, че изкуственият интелект ще донесе значителни ползи за бизнеса и че компаниите, които предлагат AI услуги, няма да страдат от липса на търсене. Lenz IO позиционира своята платформа като механизъм за повишаване на доверието и намаляване на риска при използване на AI в критични решения.

Вижте целия коментар във видеото.