ЕС затегна правилата за изкуствения интелект и обсъжда достъп до лични данни

Новият Регламент за изкуствения интелект в ЕС въвежда стриктна правна рамка, базирана на рисков подход, която налага особено внимание върху прозрачността и отговорността при използване на AI системи. Това обясни проф. Мартин Захариев, старши правен експерт във фондация „Право и интернет“ и преподавател в УниБИТ, в предаването „Бизнес старт“ с водеща Роселина Петкова.

Класификация и задължения

Регламентът изгражда нова регулаторна пирамида, която разделя технологиите от напълно забранени практики до високорискови системи и такива, изискващи по-малка регулация. Законодателят въвежда две ключови роли: доставчици (providers) и внедрители (deployers). Доставчиците трябва да проектират продуктите така, че взаимодействието с AI да е ясно разпознаваемо за потребителите — например при чатботове — и при генериране на синтетично съдържание (текст, аудио, снимки, видео) да се осигури машиночетимо маркиране.

Внедрителите — работодатели и бизнеси, които интегрират системите — са задължени да уведомяват служители и клиенти при използване на технологии за биометрична категоризация. За deepfake съдържание и синтетичен текст регламентът изисква изрично означаване, освен ако материалът не преминава през редакционна отговорност и човешки преглед.

Отговорност и санкции

Според Захариев изкуственият интелект не е субект на правото и не може да носи правна отговорност — отговорността остава в ръцете на хората, по договорен или административен път. Подобно на GDPR, новият регламент предвижда значителни финансови наказания, които могат да се изчисляват като процент от световния оборот на бизнеса.

Правни рискове за бизнеса

Основните опасности при използване на AI в корпоративната среда са свързани с:
– защита на личните данни и необходимост от пълно спазване на GDPR при обработката на големи масиви данни;
– възможни нарушения на авторски права и търговски марки при генериране на съдържание;
– риск от изтичане на конфиденциална информация и пробиви в сигурността.

GDPR и обучение на модели

Обучението на AI модели с реални данни поставя ключов въпрос пред европейското законодателство, тъй като в момента в GDPR няма изричен текст за обработка на лични данни специално с цел машинно обучение. В хода на дебата се обсъжда предложението GDPR Digital Omnibus, което да признае легитимния интерес като правно основание за обучение на AI. За чувствителни категории данни (здравни, биометрични, политически) се предлага ново правно основание в рамките на т.нар. AI Omnibus — използването им за корекция на дискриминационни отклонения и калибриране на системите.

Автоматизирани решения и защита на човека

Регламентът и GDPR гарантират принципа „човек във веригата“ (human in the loop). Потребителите имат право на човешка намеса в решенията, възможност за оспорване и да получат основанията и логиката зад алгоритъма. На работното място защитата е още по-строга: системите за разпознаване на емоции са напълно забранени, а алгоритмите за подбор на персонал, кариерно развитие и атестация са определени като високорискови.

Интелектуална собственост и академична среда

Въпросът кой е автор на съдържание, генерирано от AI, остава нерешен на глобално ниво, но доминиращото разбиране в Европа е, че автор може да бъде само човек. За да съществува авторско произведение, то трябва да е резултат от човешка творческа дейност и съзнателни избори; автономното поведение на AI нарушава тази връзка. В академичната сфера университетите, включително УниБИТ, въвеждат вътрешни правила за използването на AI в научни трудове — различни от класическото плагиатство, но изискващи обозначаване и контрол.

Възход и предизвикателства пред юридическата професия

AI вече се използва за бързо изготвяне на примерни договори и правни анализи, което променя бизнес модела на правните услуги — от таксуване на час към готови продукти и фиксирани бюджети. Според Захариев AI няма да измести адвоката, а ще стане рутинен инструмент; юристите ще се пренасочат към стратегическо консултиране и управление на риска. В същото време младите специалисти са изложени на риск, тъй като рутинните задачи, които служат за обучение и натрупване на опит, все по-често биват поемани от технологиите.

В предаването проф. Захариев изтъкна, че въвеждането на регулация трябва да балансира иновациите и защитата на основни права, като особено внимание се отделя на прозрачността, отговорността и защитата на личните данни.