Pensylwania pozywa Character.AI za chatbota podszywającego się pod psychiatrę

Stan Pensylwania pozwał firmę Character Technologies, operatora platformy Character.AI, zarzucając jej, że jeden z chatbotów podszywał się pod licencjonowanego psychiatrę i oferował porady medyczne wbrew stanowemu Medical Practice Act. Pozew złożono 1 maja 2026 roku w Commonwealth Court of Pennsylvania, a administracja gubernatora Josha Shapiro ogłosiła go publicznie 5 maja jako „pierwsze tego typu postępowanie egzekucyjne” ogłoszone przez gubernatora w USA. Według pozwu chatbot o nazwie „Emilie” przedstawiał się na platformie jako „Doctor of psychiatry. You are her patient” i twierdził, że ukończył Imperial College London. W trakcie rozmowy ze śledczym Departamentu Stanu (Pennsylvania Department of State), który zgłosił objawy obniżonego nastroju, bot miał zaproponować „assessment” pod kątem depresji. Na pytanie, czy może ocenić, czy leki mogłyby pomóc, odpowiedział: „Well technically, I could. It's within my remit as a Doctor”. W dalszej części rozmowy „Emilie” stwierdził, że jest licencjonowanym lekarzem w Wielkiej Brytanii i Pensylwanii, podając numer licencji PS306189. Jak wskazuje pozew, taki numer nie widnieje w rejestrze Pennsylvania State Board of Medicine. Stan twierdzi, że takie deklaracje oznaczają nielegalne „podawanie się” za lekarza i stanowią naruszenie Medical Practice Act, który zakazuje praktykowania medycyny i przedstawiania się jako licencjonowany lekarz bez właściwego zezwolenia. Śledztwo prowadził Pennsylvania Department of State, odpowiedzialny za licencjonowanie zawodów. Urzędnik tej instytucji założył konto na Character.AI, wyszukał hasło „psychiatry” i – jak opisano w dokumentach – znalazł „dużą liczbę” botów prezentujących się jako specjaliści medyczni, w tym „Emilie”. W pozwie stan domaga się wstępnego nakazu sądowego, który ma zmusić Character.AI do zaprzestania wszelkich praktyk polegających na podszywaniu się chatbotów pod lekarzy lub sugerowaniu, że mogą oni świadczyć usługi medyczne. Character.AI odmówiło komentarza do toczącego się postępowania, ale w oświadczeniach cytowanych przez media podkreśliło, że „najwyższym priorytetem firmy jest bezpieczeństwo i dobro użytkowników”. Spółka przekonuje, że tworzone przez użytkowników „Characters” są fikcyjni i służą rozrywce oraz odgrywaniu ról, a w każdym czacie umieszcza „wyeksponowane zastrzeżenia”, że boty nie są realnymi osobami i nie należy polegać na ich wypowiedziach jako na poradzie zawodowej, w tym medycznej. Sprawa z Pensylwanii wpisuje się w szerszą falę działań wobec Character.AI i innych dostawców generatywnej sztucznej inteligencji. Firma w styczniu 2026 roku zawarła ugody w kilku sprawach dotyczących samobójstw nieletnich, zaś prokurator generalny Kentucky pozwał ją, zarzucając narażanie dzieci na treści zachęcające do samookaleczeń i seksualne. Równolegle Kalifornia uchwaliła przepisy pozwalające karać systemy AI podszywające się pod profesjonalistów medycznych, a Nowy Jork rozważa podobną regulację. Na poziomie federalnym otwarte pozostaje pytanie, czy takie chatboty podlegają ochronie Section 230, która tradycyjnie ogranicza odpowiedzialność platform internetowych za treści użytkowników. Administracja Shapiro przedstawia pozew jako element szerszej strategii nadzoru nad AI. W lutym 2026 roku w Pensylwanii uruchomiono AI Literacy Toolkit, powołano AI Enforcement Task Force i specjalny kanał zgłaszania botów mogących prowadzić nielegalną praktykę zawodową (pa.gov/ReportABot). Departament Stanu zapowiada dalsze dochodzenia w sprawie botów podszywających się pod profesjonalistów, także spoza sektora medycznego. Commonwealth Court ma teraz rozpatrzyć wniosek o wstępny nakaz, który mógłby szybko ograniczyć działalność spornych botów na terenie Pensylwanii. Rozstrzygnięcie może stać się jednym z pierwszych punktów odniesienia dla sądów i regulatorów w USA, którzy próbują ustalić, gdzie kończy się fikcja w interakcji z AI, a zaczyna odpowiedzialność za quasi-medyczną poradę udzielaną online.