Безопасно ли е да дадем фирмените документи на AI?

Това е един от най-честите въпроси, които чуваме. Притеснението е разбираемо: договори, цени, данни на клиенти. Краткият отговор е, че може да е безопасно, но зависи от три неща: какъв акаунт ползвате, какво вижда AI и какво пише в договора. Ето как да ги проверите.

Личен или бизнес акаунт

Най-големият риск обикновено не е самият AI, а служител, който поставя фирмен документ в личния си безплатен акаунт. При потребителските версии разговорите може да се използват за обучение на моделите. При ChatGPT това е включено по подразбиране и се изключва от настройките. При личните планове на Claude от 2025 г. потребителят сам избира дали да го позволи. И в двата случая решението е на служителя, не на фирмата.

При бизнес версиите е обратното. OpenAI заявява, че не обучава модели с данни от бизнес плановете и от API по подразбиране. Anthropic не обучава модели със съдържание от платените си бизнес услуги. Microsoft заявява, че заявките, отговорите и данните в Microsoft 365 Copilot не се използват за обучение на базовите модели.

Изводът е прост: осигурете на хората бизнес инструмент и ясно правило, че фирмени данни не влизат в лични акаунти. Забраната без алтернатива обикновено само скрива употребата.

AI вижда това, което виждате вие

Когато AI е свързан с вашите документи, той обикновено спазва съществуващите права за достъп. Microsoft например посочва, че Copilot показва само данни, до които потребителят има поне право за четене. Това е добре, но крие изненада: ако папката със заплатите е споделена с цялата фирма „по стар навик“, AI ще я намери за секунди.

Затова преди свързването прегледайте правата. Това е най-евтината стъпка за сигурност в целия проект.

Къде отиват данните

Ако AI обработва лични данни, доставчикът обикновено е обработващ лични данни по GDPR. Нужен е договор по член 28, който големите доставчици предлагат като приложение за обработка на данни (DPA). Проверете и къде физически се обработват данните. Microsoft например обработва заявките на клиенти от ЕС в рамките на ЕС, но посочва изключения, като моделите на Anthropic в Copilot.

Предаването на данни към САЩ сега стъпва на Рамката за защита на данните между ЕС и САЩ. Общият съд на ЕС я потвърди през 2025 г., но обжалването пред Съда на ЕС още тече. Ако данните ви са особено чувствителни, обработката в ЕС или на собствени сървъри намалява този риск.

Рискове, специфични за AI

Скрити инструкции. Ако AI чете външни документи или имейли, в тях може да има скрит текст, който се опитва да му даде команди. OWASP поставя тази атака на първо място сред рисковете за приложения с езикови модели. Изтичане на чувствителна информация е на второ място. Решението е AI да няма повече права, отколкото задачата изисква, и рисковите действия да минават през човек.

Грешни отговори. AI може да звучи уверено и да греши. Важните отговори трябва да сочат източника си, за да може човек да провери.

Кратък списък за проверка

Бизнес акаунти за всички, които ползват AI с фирмени данни. Подписан договор за обработка на данни. Ясно правило какво никога не се поставя в AI, например пароли и чувствителни лични данни. Прегледани права за достъп преди свързване. Запис кой какво е питал и какво е получил. При рискова обработка на лични данни, оценка на въздействието по член 35 от GDPR.

Ако ползвате AI само за публична информация и чернови на маркетингови текстове, рискът е малък и тези стъпки може да са прекомерни. Тази статия е общ преглед, не правен съвет. Ако искате да проверим заедно вашата настройка, пишете ни.