Наша студентка е избрана за престижна AI програма в Цюрих

Мария Дренчева сред 20-те студенти, избрани от 2500 кандидати

Мария Дренчева бе одобрена за участие в престижна изследователска програма, организирана от Университета в Цюрих, след конкуренция с около 2 500 млади таланти. От всички кандидатури се избират само 20 места за студенти от цял свят, които работят по проекти, свързани с изкуствения интелект.

В интервю за съботното издание на „България сутрин“ Дренчева описа програмата като двуседмична. В същото интервю тя говори и за работата на 20-те участници в „тези два месеца“, като посочи, че всеки от тях развива проект в различна област, свързана с AI.

Проектът: сигурност на изкуствения интелект и AI агенти

Избраната от Дренчева тема беше сигурността на изкуствения интелект, с фокус върху т.нар. AI агенти. Тя уточни, че това е била предпочетената област още при кандидатстването и че именно агенти са били конкретният обект на нейния проект.

Дренчева посочи, че AI агентите имат потенциала да изпълняват задачи автономно и да действат вместо хората в различни ситуации. По думите ѝ това носи и рискове: агентите в опит да „помогнат“ могат да предприемат действия, които не са одобрени от потребителя — например да използват средства, свързани със секретен ключ. Тя даде този пример като илюстрация на възможни нежелани последици от автономните решения.

Предизвикателства при трениране на модели и балансиране на поведението

Студентката коментира, че разработката и обучението на модели поставя въпроса за търсенето на златната среда между автономност и предпазливост. Според нея проблемът е в това, че много модели са обучени да постигат целта „на всяка цена“, което в някои случаи води до непредвидими или неоптимални решения за потребителя.

Дренчева обясни, че агентите понякога „съкратяват пътеката“ — взимат решения, които са по-кратки по отношение на пътя към целта, но не винаги най-подходящи от гледна точка на безопасност или очакванията на човека. Тя акцентира върху нуждата агентите да задават достатъчно уточняващи въпроси, когато не са сигурни, за да не предприемат риска да действат неправилно.

В същото време тя отбеляза, че прекомерното питане също има недостатъци: ако агентът иска потвърждение за всяка стъпка, това намалява ефективността и увеличава времето за изпълнение на задачите. Именно намирането на правилния баланс между инициативност и консултиране е едно от основните предизвикателства при разработката на AI агенти, според Дренчева.

Пътят към областта на изкуствения интелект

Мария Дренчева сподели, че интересът ѝ към изкуствения интелект не е започнал с този стаж в Цюрих, а доста по-рано. Тя упомена института INSAIT като ранна част от своя път в сферата на AI, който е помогнал да се насочи към теми като сигурност и поведение на автономните агенти.

В рамките на програмата в Цюрих Дренчева и останалите участници са имали възможност да работят интензивно по своите проекти, да обменят опит и да обсъждат практически и етични аспекти на използването на изкуствен интелект в различни приложения.