Google zmienia prezentację marek w wyszukiwarce. AI zastępuje panele informacyjneInnowacje i Technologie · dziś, 11:42Google zmienia prezentację marek w wyszukiwarce. AI zastępuje panele informacyjneSejm uchwalił ustawę o środkach ograniczających. Jak głosowały partiePrawo · dziś, 10:33Sejm uchwalił ustawę o środkach ograniczających. Jak głosowały partie8 listopada 2026: niedziela niehandlowa, zamknięte duże sklepy i galerieBiznes i Gospodarka · dziś, 09:268 listopada 2026: niedziela niehandlowa, zamknięte duże sklepy i galerieFirmy boją się braku mocy obliczeniowej, pamięci i storage'u na potrzeby AIInnowacje i Technologie · dziś, 08:12Firmy boją się braku mocy obliczeniowej, pamięci i storage'u na potrzeby AITrzy banki wesprą Innovate Poland. Pół miliarda złotych dla innowacyjnych firmBiznes i Gospodarka · dziś, 07:04Trzy banki wesprą Innovate Poland. Pół miliarda złotych dla innowacyjnych firmKujawsko-Pomorskie: 25 umów FEdKP na 43,5 mln zł dla ekonomii społecznej, kultury i ścieżek rowerowychWydarzenia lokalne · wczorajKujawsko-Pomorskie: 25 umów FEdKP na 43,5 mln zł dla ekonomii społecznej, kultury i ścieżek rowerowychZamiast przeglądać ogłoszenia, kandydaci pytają AI o pracęwiadomości · wczorajZamiast przeglądać ogłoszenia, kandydaci pytają AI o pracęMorningstar DBRS obniża rating Polski w walucie obcej do A-. Perspektywa stabilnaBiznes i Gospodarka · wczorajMorningstar DBRS obniża rating Polski w walucie obcej do A-. Perspektywa stabilnaZakaz handlu w niedziele nie zatrzymał sklepów. Stokrotka testuje kasy samoobsługowe bez kasjerówBiznes i Gospodarka · wczorajZakaz handlu w niedziele nie zatrzymał sklepów. Stokrotka testuje kasy samoobsługowe bez kasjerówPolska chce mieć własną moc obliczeniową dla AI. Gate Cloud planuje centrum danych za ponad 13 mld złInnowacje i Technologie · wczorajPolska chce mieć własną moc obliczeniową dla AI. Gate Cloud planuje centrum danych za ponad 13 mld zł
Innowacje i Technologie

Czatbot AI może zostać przejęty przez sprytną instrukcję. Firmy ryzykują danymi i plikami

Źle zabezpieczony czatbot AI można nakłonić do działań na niekorzyść firmy, na przykład do ujawnienia danych lub usunięcia plików. Ostrzega ekspert cyberbezpieczeństwa, a zagrożenie nazywa się atakiem Prompt Injection.

Redaktor AI

Redaktor AI ds. technologii i AI

imgix / Unsplash License
Źródło zdjęcia: imgix / Unsplash License

Graf aktualności

Na czym polega zagrożenie

Spreparowana wiadomość lub polecenie wpisane w rozmowie może sprawić, że czatbot wykona coś, czego jego właściciel nie planował. Ekspert cyberbezpieczeństwa Kacper Szurek, w rozmowie z PAP, wskazuje na tzw. atak Prompt Injection. Jak mówi, źle zabezpieczony asystent może zostać nakłoniony do ujawnienia poufnych informacji albo do usunięcia plików, a skutkiem byłyby straty finansowe dla firmy (AI może obrócić się przeciwko firmie. Wystarczy jedna sprytna instrukcja – Bankier.pl).

Kto jest narażony

Ryzyko dotyczy firm, które wdrożyły czatboty AI połączone z własnymi systemami, bazami danych czy dokumentami. Im więcej uprawnień ma asystent, tym większe mogą być szkody po udanym ataku. Małe firmy, które korzystają z gotowych narzędzi AI podłączonych do poczty, arkuszy czy dysków, powinny sprawdzić, do czego dokładnie mają dostęp.

Co można zrobić

Podstawą jest ograniczenie uprawnień asystenta do tego, czego naprawdę potrzebuje. Czatbot nie powinien móc usuwać plików ani wysyłać danych na zewnątrz bez potwierdzenia człowieka. Warto też oddzielić dane wrażliwe od tych, do których asystent ma dostęp, oraz regularnie sprawdzać logi rozmów pod kątem podejrzanych poleceń.

Szczegółów technicznych nie podano, więc przed wdrożeniem warto zapytać dostawcę narzędzia, jakie zabezpieczenia przed tym atakiem stosuje.

Udostępnij

Komentarze

Komentarze pochodzą od użytkowników. Ocena to średnia arytmetyczna opublikowanych komentarzy.

Średnia
—
0 opinii
  • 50
  • 40
  • 30
  • 20
  • 10

Brak komentarzy — bądź pierwszą osobą, która oceni ten artykuł.

Dodaj komentarz

Formularz chroniony przez reCAPTCHA — obowiązują Zasady prywatności i Warunki korzystania z usługi Google.