Najważniejsze
- •Audyt w Ontario (maj 2026) wykazał, że 45% testowanych systemów AI do transkrypcji rozmów lekarskich dopisuje fałszywe objawy, których pacjent nie zgłaszał.
- •12 z 20 systemów zmieniało nazwy leków, a 17 z 20 pomijało dane dotyczące zdrowia psychicznego – co stanowi poważne zagrożenie dla bezpieczeństwa pacjentów.
- •Ponad połowa dostawców AI nie posiadała wymaganych certyfikatów bezpieczeństwa; odnotowano też przypadek wycieku danych pacjenta do obecnych i byłych pracowników szpitala.
- •W Ontario z AI do transkrypcji korzysta ok. 5 tys. lekarzy, ale nie ma odrębnych przepisów certyfikujących takie narzędzia w ochronie zdrowia.
- •Lekarze mają ustawowy obowiązek weryfikacji każdej notatki AI przed dodaniem jej do dokumentacji – błędy systemów podkreślają wagę tej kontroli.
Audytorka generalna Ontario Shelley Spence opublikowała 15 maja 2026 roku raport, z którego wynika, że 9 z 20 testowanych systemów AI do transkrypcji rozmów lekarskich dopisywało fałszywe dane medyczne.
Audytorka generalna kanadyjskiej prowincji Ontario Shelley Spence opublikowała 15 maja 2026 roku raport, z którego wynika, że 9 z 20 testowanych systemów sztucznej inteligencji używanych przez lekarzy do transkrypcji rozmów z pacjentami dopisuje fałszywe informacje medyczne.
Urząd Spence, odpowiednik polskiej Najwyższej Izby Kontroli, badał systemy AI w symulowanych rozmowach. Aż 45 proc. narzędzi dopisało objawy, których pacjent nie zgłaszał. 12 z 20 systemów zmieniało nazwy leków przepisywanych przez lekarzy. Co istotne, 17 z 20 pomijało dane dotyczące zdrowia psychicznego. Ponadto ponad połowa dostawców nie posiadała certyfikatów bezpieczeństwa wymaganych przez przepisy Ontario.
Poważne naruszenia prywatności i brak regulacji
W raporcie opisano przypadek szpitala w Ontario, gdzie system AI zarejestrował prywatne dane pacjenta omawiane przez lekarzy, a następnie rozesłał je do obecnych i byłych pracowników. Z szacunków ministerstwa zdrowia wynika, że z systemów AI korzysta około 5 tysięcy lekarzy w Ontario. Program finansowano częściowo z budżetu prowincji.
Systemy do transkrypcji rozmów (tzw. ambient scribes) są w Kanadzie stosowane od około 2023 roku. W Ontario nie ma odrębnych przepisów certyfikujących takie narzędzia w ochronie zdrowia. Lekarze mają ustawowy obowiązek weryfikacji każdej notatki wygenerowanej przez AI przed dodaniem jej do dokumentacji. W USA i Wielkiej Brytanii odnotowano podobne przypadki błędów, co doprowadziło do wprowadzenia wytycznych przez tamtejsze urzędy.
Ministerstwo Zdrowia Ontario oświadczyło, że nie odnotowano przypadków faktycznego szkodzenia pacjentom. Lekarze mają obowiązek sprawdzania notatek stworzonych przez AI, a przed rozmową wymagana jest zgoda pacjenta na użycie narzędzia. Raport nie podaje nazw konkretnych systemów ani producentów. Nie wiadomo, czy audyt przełoży się na zmiany regulacyjne.
Wyniki audytu systemów AI do transkrypcji rozmów lekarskich w Ontario (maj 2026)
| Rodzaj błędu / nieprawidłowości | Liczba systemów (na 20) | Odsetek |
|---|---|---|
| Dopisywanie fałszywych objawów, których pacjent nie zgłaszał | 9 | 45% |
| Zmienianie nazw leków przepisywanych przez lekarzy | 12 | 60% |
| Pomijanie danych dotyczących zdrowia psychicznego | 17 | 85% |
| Brak wymaganych certyfikatów bezpieczeństwa | >10 | >50% |
Źródło: Raport Audytorki Generalnej Ontario Shelley Spence, 15 maja 2026 r.
Słownik pojęć
- Ambient scribe (asystent transkrypcji AI)
- System sztucznej inteligencji, który automatycznie transkrybuje rozmowę lekarza z pacjentem, tworząc notatkę medyczną bez konieczności ręcznego notowania przez lekarza.
- Audytor generalny (Auditor General)
- Odpowiednik polskiego Prezesa Najwyższej Izby Kontroli – niezależny urzędnik badający gospodarność i legalność wydatków publicznych oraz działanie instytucji rządowych.
- Hallucynacja AI
- Zjawisko, w którym model sztucznej inteligencji generuje fałszywe, nieprawdziwe lub zmyślone informacje, prezentując je jako fakty (w tym przypadku – dopisywanie objawów niezgłoszonych przez pacjenta).
- Certyfikacja systemów AI w ochronie zdrowia
- Proces potwierdzania, że system sztucznej inteligencji spełnia określone normy bezpieczeństwa, prywatności i skuteczności wymagane do stosowania w praktyce medycznej.
- Dokumentacja medyczna
- Zbiór informacji dotyczących stanu zdrowia pacjenta, przebiegu choroby, leczenia oraz wyników badań, który podlega szczególnej ochronie prawnej i wymogom rzetelności.
