Lenz IO предлага независима верификация на AI с финансова гаранция
Lenz IO разработва независим слой за проверка на изкуствения интелект, който подкрепя верифицираните резултати с финансова гаранция от 10
Lenz IO разработва независим слой за проверка на изкуствения интелект, който подкрепя верифицираните резултати с финансова гаранция от 10 хил. евро за всяка допусната грешка. Инициативата бе представена от основателя и изпълнителния директор Костадин Йорданов в предаването UpDate по Bloomberg TV Bulgaria с водещ Антоанет Василева.
Йорданов посочи, че въпреки бързите подобрения в качеството и възможностите на AI моделите, няма признаци напредъкът да е достигнал лимит и следвaщите пет до десет години ще са динамични за науката и бизнеса. В същото време големите компании действат предпазливо, тъй като креативността на моделите води до т. нар. халюцинации — измислени или неточни факти, което налага допълнителни мерки за контрол.
Нуждата от „човек в процеса“ и различия между моделите
Йорданов отбеляза, че повечето фирми все още използват подхода „човек в процеса“ (human-in-the-loop) за окончателна проверка преди вземане на важно решение или комуникация с клиенти. Вътрешен анализ на Lenz IO върху 1000 твърдения от области като политика и наука е показал, че в 63% от случаите различните модели дават несъвпадащи отговори. Това означава, че крайният резултат за потребителя зависи в значителна степен от избрания модел.
Как работи платформата — модел „съдебна зала“
За да минимизира риска от грешки, Lenz IO изгражда независим технологичен слой за верификация по модела на съдебна зала, който комбинира няколко техники:
– Независимо проучване: вместо да разчита само на вътрешната памет на алгоритмите, платформата предварително събира и оценява външни източници, класирайки ги по качество.
– Дебат между модели: различни AI системи от конкурентни доставчици влизат в роли на защитник и опонент, за да формулират и оспорят аргументи и така да се изчистят неточности.
– Панелно гласуване: множество модели гласуват за крайния изход, което помага да се неутрализират индивидуалните предразсъдъци и грешки на отделните алгоритми.
Целта е точността на платформата да надхвърля възможностите на всеки един отделен модел.
Бизнес модел и пазарни намерения
В контраст с практиката на технологичните гиганти да се освобождават от отговорност чрез откази от гаранции, Lenz IO предлага пълна прозрачност на използваните източници и дебати между моделите и осигурява финансово обезпечаване — 10 хил. евро за всяка допусната грешка. Компанията води преговори със застрахователи с идеята да увеличи този лимит.
Според Йорданов целта е платформата да бъде не само технологично решение, но и механизъм за прехвърляне на риска, който бизнесите поемат при използване на AI. Особено подходящи за подобна услуга са сектори с повишен риск — финанси, здравеопазване и други индустрии, където грешките могат да струват скъпо.
Едно от предимствата на предлаганото решение е неговата независимост: използването на модели от различни доставчици увеличава вероятността за по-обективен и надежден резултат, докато големите доставчици рядко ще включват конкуренти в своите вериги и едва ли ще предоставят подобни финансови гаранции.
Пазарна ниша и перспективи
Йорданов прогнозира, че проверката и сертифицирането на AI резултати ще се оформят като отделен технологичен пазар. Той посочи като сигнал за необходимостта от такъв пазар и случай с глобална глоба срещу Google в Германия за резултат, който е бил халюциниран от AI (споменато като прецедент в дискусията).
От гледна точка на пазара, младите компании в сектора не би трябвало да страдат от липса на търсене, тъй като дългосрочно изкуственият интелект ще донесе значителни ползи за бизнеса. В същото време Йорданов отбеляза, че развитието ще зависи и от съотношението между търсене и капацитетите на центровете за данни, които се изграждат в момента.
Lenz IO се позиционира като решение за фирми, които искат допълнително ниво на сигурност при използване на AI — като комбинира технически подходи за верификация с конкретна финансова ангажираност.


