Polityka AI / Transparentność AI (AI Policy & Transparency)
11.1. Charakter systemu AI
Chatbot Asystio oparty jest o model językowy AI (Google Gemini / Vertex AI), który generuje odpowiedzi na podstawie dostarczonych informacji i treści z bazy wiedzy. Według projektowanego prawa UE (AI Act), jest to system AI mający interakcje z ludźmi w kontekście obsługi klienta (prawdopodobnie klasyfikowany jako „ogólnego przeznaczenia” lub „ogólne z ograniczeniami”). Nie jest to system wysokiego ryzyka w rozumieniu obecnych założeń AI Act, niemniej stosujemy odpowiednie środki z zakresu transparentności i kontroli.
11.2. Informowanie użytkowników o AI
Każda osoba wchodząca w interakcję z chatbotem Asystio będzie poinformowana, że rozmawia z systemem sztucznej inteligencji, a nie z człowiekiem. Informacja ta jest przekazywana:
- w okienku czatu – np. komunikat powitalny „Cześć, jestem wirtualnym asystentem AI Asystio” lub ikona/etykieta „AI”;
- w polityce prywatności i materiałach pomocy – wyraźnie wyjaśniamy, że pytania obsługuje AI;
- w umowach z Klientami – Klient powinien również informować swoich końcowych użytkowników, że korzystają z AI (udostępniamy do tego celu wzorcową klauzulę).
11.3. Opcja eskalacji do człowieka
System Asystio posiada mechanizmy human-in-the-loop. Oznacza to, że jeśli chatbot nie jest w stanie pewnie udzielić odpowiedzi lub użytkownik zażąda rozmowy z człowiekiem, konwersacja może zostać przekazana do konsultanta/obsługi klienta Klienta (o ile Klient przewidział taką opcję). Zwłaszcza w planach wyższych, integracja z e-mail czy LiveChat umożliwia płynne przekierowanie rozmowy. Zgodnie z zasadami unikania wyłącznego zautomatyzowania – istotne decyzje lub odpowiedzi mogą zawsze być zweryfikowane przez człowieka na żądanie użytkownika.
11.4. Labeling i wykrywalność AI content
Każda odpowiedź generowana przez nasz system AI jest oznaczona w sposób umożliwiający wykrycie, że pochodzi od AI. Dla użytkownika jest to widoczne poprzez styl i kontekst (np. “Asystio AI odpowiada…”). Ponadto wdrażamy techniczne środki: planujemy stosować watermarking treści AI, polegający na subtelnych wzorcach w generowanym tekście, które pozwalają automatycznie wykryć (przez nasze narzędzia) treści wygenerowane przez bota. To ma zapobiec ewentualnemu niezamierzonemu wykorzystaniu contentu AI jako ludzkiego. Mechanizm ten będzie zgodny z wymogami AI Act dot. oznaczania treści syntetycznych (np. Recital 68 i art. 52 projektu) – w zakresie, w jakim jest to technicznie wykonalne.
11.5. Zapobieganie szkodliwym skutkom i bias
- Monitoring i moderacja outputu: Implementujemy filtry treści AI – system ma blokady przed generowaniem pewnych kategorii odpowiedzi: np. nie udzieli instrukcji nielegalnych działań, nie wygeneruje mowy nienawiści, treści jawnie obraźliwych itp. Ponieważ model uczy się z danych, może pojawiać się niezamierzony bias (stronniczość). Monitorujemy to poprzez analizy logów i zgłoszenia użytkowników. Dodaliśmy mechanizm oceny odpowiedzi: klient końcowy może ocenić, czy odpowiedź bota była pomocna lub zawierała coś niestosownego – te sygnały trafiają do naszego zespołu, który je przegląda i w razie potrzeby koryguje bazę wiedzy lub parametry.
- Unikanie dyskryminacji: Dane treningowe i bazy wiedzy staramy się dobierać tak, by nie wzmacniać stereotypów czy uprzedzeń. Jeśli stwierdzimy, że bot udziela dyskryminujących odpowiedzi (np. stronniczo traktuje pewne grupy), jest to traktowane jako poważny błąd – przeprowadzimy wtedy dodatkowy tuning modelu lub filtry. Jesteśmy świadomi, że model Google Gemini uczony na internecie może mieć ukryte biasy – dlatego w newralgicznych zastosowaniach zalecamy involvement człowieka.
- Zakres zastosowań: Asystio nie jest przeznaczone do krytycznych zastosowań medycznych, prawnych czy finansowych jako wyłącznego doradcy. W dokumentacji i komunikatach wyświetlanych użytkownikom (np. klauzula “Bot nie jest prawnikiem/lekarzem”) – jasno wskazujemy, że to asystent, a nie ekspert z certyfikacją. To powiązane z wymogiem AI Act, by unikać wprowadzania w błąd co do kompetencji AI.
11.6. Prawa użytkownika i wyłączenie AI
Jeśli użytkownik końcowy (np. klient sklepu używającego Asystio) nie życzy sobie być obsługiwany przez AI, ma prawo to zasygnalizować – np. komendą “chcę rozmawiać z człowiekiem” – i wówczas nastąpi przekierowanie (o ile Klient zapewnia taką obsadę). Zgodnie z projektem AI Act, jeżeli osoba nie chce podlegać decyzjom wyłącznie AI, musi mieć alternatywę. Asystio umożliwia wyłączenie bota (np. w trybie offline) i przejęcie czatu przez pracownika – to już w gestii Klienta, by taką możliwość w określonych godzinach zapewnić.
11.7. Śledzenie i dokumentacja decyzji (traceability)
System Asystio utrzymuje logi istotnych interakcji: każde pytanie i odpowiedź bota jest zapisywane (na 90 dni, jak w retencji). Zapisujemy też wersję modelu AI i bazy wiedzy, która posłużyła do wygenerowania odpowiedzi. Dzięki temu, gdyby zaszła potrzeba sprawdzenia okoliczności danej odpowiedzi (np. użytkownik zgłasza szkodliwą poradę), możemy prześledzić, na jakiej podstawie została udzielona (co model “wiedział” w tym momencie). To odpowiada wymogom traceability z AI Act dla pewnych systemów – prowadzić logi i dokumentację techniczną. Ponadto, jak wspomniano w Polityce retencji, prowadzimy mechanizm anonimizacji po 90 dniach – ale w okresie aktywności dane te służą też audytom jakości.
11.8. Zgłaszanie błędów AI
Mimo starań, AI może popełniać błędy lub generować niewłaściwe treści. Zachęcamy użytkowników do zgłaszania takich przypadków. Klient końcowy może ocenić odpowiedź (mechanizm kciuka w dół/góra), co trafia do analizy. Klienci (firmy) mogą kontaktować się z nami w sprawie incydentów AI poprzez dedykowany adres (np. [email protected]). Błędy AI traktujemy poważnie – np. jeśli bot udzielił szkodliwej porady, natychmiast to badamy i wprowadzamy poprawki (usunięcie danego wpisu z bazy wiedzy lub korekta promptu).
11.9. Zgodność z AI Act i przyszłymi regulacjami
Chociaż EU AI Act wejdzie w życie prawdopodobnie w 2025/26 roku, już teraz implementujemy jego podstawowe założenia:
- Rejestracja systemu: Jeśli wymagane, zarejestrujemy nasz system AI w oficjalnym rejestrze (dotyczy to systemów wysokiego ryzyka – wstępnie to nas nie obejmuje, ale będziemy śledzić).
- Ocena ryzyka AI: Regularnie przeprowadzamy wewnętrzne oceny ryzyka związanego z działaniem AI (impact assessment). Identyfikujemy możliwe negatywne skutki dla użytkowników i wprowadzamy środki zaradcze (np. wcześniej wspomniane mechanizmy filtrowania, HITL, itp.).
- Odpowiedzialność i nadzór ludzki: Asystio nie podejmuje wiążących decyzji za człowieka – jest narzędziem pomocniczym. Wszelka odpowiedzialność za decyzje podjęte na podstawie jego sugestii spoczywa ostatecznie na ludzkich menedżerach u Klienta. Niemniej, udostępniamy mechanizmy monitorowania i staramy się, by to wsparcie było rzetelne.
- Dane treningowe i ocena jakości: W miarę rozwoju planujemy stosować własne modele lub fine-tuning – wówczas zapewnimy zgodność z wymogami dot. datasetu (np. dokumentacja pochodzenia danych, czy nie ma w nich uprzedzeń). Będziemy też informować o wskaźnikach dokładności i ograniczeniach systemu – np. że AI może nie znać najnowszych danych spoza swojego zakresu treningu.
11.10. Etyka AI
Asystio przyjmuje zasadę, że AI ma służyć ludziom i wspierać ich pracę, a nie zastępować odpowiedzialności lub kompetencji w pełni. Dlatego:
- AI nie udaje człowieka (zawsze wiadomo, że to AI).
- AI stara się być bezstronne i pomocne, ale nie przesądza – w trudnych kwestiach zachęca do skonsultowania się z ekspertem.
- Szanujemy prywatność – dane wykorzystywane przez AI ograniczamy do niezbędnych, nie profilujemy bez potrzeby.
- Jesteśmy otwarci na audyty i opinie zewnętrzne w zakresie etyki AI (w planie utworzenie rady doradczej ds. AI).
English summary
Asystio’s AI Policy ensures our use of artificial intelligence is transparent, fair, and compliant with emerging regulations. We clearly inform users they are interacting with an AI system and provide the option to speak with a human operator when needed. All AI-generated content is labeled or watermarked to be identifiable as machine-generated. We implement content filters and human oversight to prevent harmful or biased outputs, and allow users to report or flag unsatisfactory responses. We log AI interactions (while respecting privacy) to ensure traceability and accountability. As new EU AI regulations come into effect, we will register or certify our AI as required and continuously assess and mitigate risks (e.g. bias, errors). We emphasize that our AI assistant is a support tool – not a definitive authority – and we commit to ethical AI principles like non-discrimination, privacy, and user empowerment (e.g. ability to contest an AI outcome). This policy will evolve as legal requirements and best practices for AI develop.