AI гигантите подвеждат потребителите, предупреждава адв. Мартин Пенчев

AI технологиите навлизат масово в правната практика, но според адв. Мартин Пенчев това поражда сериозни проблеми, особено свързани с личните данни и методите за обучение на моделите. В ефира на предаването „Бизнес старт“ с водеща Роселина Петкова той посочи, че служители често качват конфиденциални и лични бази данни в езикови модели с цел ускоряване на работни процеси, което крие риск за защитата на данните.

Вместо категорична забрана на AI в компаниите, Пенчев предлага модел на контролирано използване. Той смята, че абсолютните ограничения са неефективни, защото служителите продължават да работят с инструментите неофициално. По-правилната стратегия е да се разработят ясни вътрешни правила: какви данни могат да се въвеждат, за какви задачи да се използват системите и какво човешко наблюдение следва да има върху резултатите.

Необходими мерки: прилагане вместо ново законодателство

Пенчев изрази категорична позиция срещу приемането на нови закони за изкуствения интелект. Той посочи, че правната рамка вече е обширна и добавянето на нови актове би натоварило бизнеса с допълнителна бюрокрация. Вместо това, според него, усилията трябва да се насочат към прилагането на съществуващите правни норми, възстановяване на ефективността на регулаторите и утвърждаване на основополагащите принципи на правото.

Пенчев отбеляза, че прекомерната регулация в Европа би могла да навреди на конкурентоспособността спрямо пазари с по-гъвкави рамки, като пример за по-гъвкав подход посочи Съединените щати.

Съдебни дела срещу производители и маркетингова отговорност

Заявеният от Пенчев проблем не е само технологичен, но и търговски. В световен мащаб нарастват съдебните претенции срещу разработчици на AI — сред случаите има дела, заведени от множество щати срещу компании като OpenAI. Той уточни, че тези искове целят не техническата работа на моделите, а начина, по който продуктите се представят и продават на потребителите.

Според Пенчев много компании позиционират продуктите си като напълно безопасни и способни да заменят човека, което въвежда потребителите в заблуда и може да бъде квалифицирано като нелоялна търговска практика. „Реално потребителите са заблудени, че тези модели са безопасни. Реално могат да заместят човека, докато това всъщност не е така,“ каза той.

Междувременно в Китай се разглеждат дела, свързани с авторското право върху съдържание, генерирано от AI — например кой притежава правата върху рекламен банер, създаден от модел, и какво се случва при неволно копиране на защитена търговска марка.

Халюцинации и рискове в съдебната практика

Технологията вече се използва широко от адвокатите, но това води и до нови рискове. Пенчев спомена, че има хиляди случаи в Европа, в които използването на AI е довело до т.нар. халюцинации — цитиране на несъществуващи съдебни решения или представяне на фалшиви аргументи. Проблеми са възниквали и в съдебните актове: в САЩ делегиране на задачи на AI е довело до ситуации, в които съдии са били принудени да пренаписват решения заради грешки, породени от системите.

Въпреки това Пенчев подчерта, че AI може да бъде полезен като подпомагащ инструмент в съдебната система — например за категоризиране на дела и проверка за налични реквизити, което би ускорило процеси и би намалило забавянията.

Човешката отговорност остава ключова

Адвокатът предупреди срещу прекаленото доверие в машините: „Правото не се плаши от AI. По-скоро правото се плаши от хора, които спират да мислят и от хора, които прекалено се предоверяват на AI.“ Той подчерта, че финалната преценка на аргументите и взимането на съдебно решение трябва винаги да се извършват изцяло и самостоятелно от съдията.

Пълното видео от разговора в предаването може да бъде гледано в излъчването на „Бизнес старт“.