Изкуственият интелект вече ще играе по правилата

Изкуственият интелект вече ще играе по правилата

Представи си, че кандидатстваш за кредит и банката те отказва — не защото банкер е разгледал документите ти, а защото алгоритъм е решил, че си "рисков". Или гледаш видео на политик, който обещава нещо шокиращо, а след това разбираш, че видеото е напълно измислено от AI. Европейският съюз каза "стоп" на безконтролното използване на изкуствен интелект и прие първия в света всеобхватен закон за AI — EU AI Act.

Какво е EU AI Act?

EU AI Act (Регламент на ЕС за изкуствения интелект) беше приет през май 2024 г. и е първият цялостен закон за AI в света. Той важи за всички страни от ЕС — включително България — и поставя ясни правила за това кои AI системи са разрешени, кои са ограничени и кои са напълно забранени.

Законът работи на принципа на риска: колкото по-опасна е една AI система за правата и безопасността на хората, толкова по-строги са изискванията към нея.

Четирите нива на риска

1. Забранени системи (неприемлив риск)

Някои употреби на AI са напълно забранени в ЕС, защото противоречат на основните ни права. Ето какво е извън закона:

• Социално точкуване (social scoring) — системи, които оценяват хора по поведението им и им дават или отнемат права. Познато от Китай, но вече незаконно в ЕС.
• Манипулативни AI системи — алгоритми, които използват подсъзнателни техники, за да влияят на решенията ти, без да го осъзнаваш.
• Биометрично наблюдение в реално време — разпознаване на лица на обществени места (с много ограничени изключения за борба с тероризма).
• Разпознаване на емоции на работното място и в училище.
• Масово събиране на снимки от интернет и камери за изграждане на бази данни с лица.

2. Високорискови системи — строг контрол

Тези системи не са забранени, но трябва да отговарят на сериозни изисквания преди да бъдат пуснати в употреба. Примери:

• Кредитни оценки — AI, който решава дали ще получиш заем
• Подбор на персонал — алгоритми за сортиране на автобиографии
• AI в здравеопазването — диагностика, препоръки за лечение
• AI в правосъдието — системи, помагащи при съдебни решения
• Образователни оценявания — AI, определящ резултати от изпити

За всички тях са задължителни: проверки за риск, човешки надзор, документация и висока точност.

3. Ограничен риск — задължителна прозрачност

Тук влизат системи като чатботове и deepfake-и. Те не са забранени, но трябва да са честни:

• Чатботовете трябва да казват, че са AI — не могат да се представят за хора.
• Deepfake видеата и изображенията трябва да бъдат маркирани като изкуствено създадени.

4. Минимален риск — почти никакви ограничения

Повечето AI приложения — филтри за спам, препоръки за филми, AI в игри — попадат тук и не са обект на специална регулация.

Какво означава за теб като гражданин?

Ако кандидатстваш за кредит

Ако AI системата на банката вземе решение за теб, имаш право да знаеш това и да поискаш обяснение. Банката не може просто да каже "алгоритъмът така реши" — трябва да има човешки надзор и прозрачност.

Ако търсиш работа

Компаниите, използващи AI за сортиране на автобиографии или провеждане на видео-интервюта, са длъжни да гарантират, че системата не дискриминира. Имаш право да знаеш, че AI участва в оценката ти.

Ако видиш съмнително видео онлайн

Ако видиш видео на политик, което изглежда истинско, но е deepfake — законът изисква то да бъде маркирано като AI-генерирано. Разпространението на немаркирани deepfake-и е нарушение.

Ако говориш с чатбот

Всеки чатбот — в сайт на банка, магазин или институция — е длъжен да ти каже, че е AI, ако го попиташ. Не може да се преструва, че е истински служител.

Какво означава за бизнеса?

Компаниите, които разработват или използват AI системи, имат конкретни задължения:

• Да класифицират AI системите си по ниво на риск
• Да осигурят документация и одитна следа за високорискови системи
• Да информират потребителите, когато AI взема решения за тях
• Да маркират AI-генерираното съдържание
• Да осигурят човешки надзор там, където е необходимо

Кога влиза в сила?

Законът се прилага на етапи:

• Февруари 2025 г. — Забраните за неприемливи AI практики вече са в сила.
• Август 2025 г. — Правилата за общи AI модели (като ChatGPT) влизат в сила.
• 2 август 2026 г. — Пълно влизане в сила на всички правила, включително за високорискови системи и прозрачност.

Какви са глобите?

Нарушителите рискуват сериозни санкции:

• За забранени практики: до 35 милиона евро или 7% от годишния оборот (което от двете е по-голямо)
• За нарушения на прозрачността: до 15 милиона евро или 3% от оборота
• За предоставяне на невярна информация: до 7,5 милиона евро

Накратко: защо ти е важно?

EU AI Act е добра новина за гражданите. За първи път имаш законова защита срещу това да бъдеш оценяван, наблюдаван или манипулиран от алгоритъм без твое знание. Имаш право да знаеш кога AI участва в решения, засягащи живота ти — при кандидатстване за кредит, работа или достъп до услуги.

Изкуственият интелект не изчезва — той вече е навсякъде. Но с EU AI Act поне ще играе по правилата.