W erze cyfryzacji opieki zdrowotnej technologia ambient voice (AVT) zyskuje na popularności, mając potencjał, by stać się zaufanym asystentem każdego lekarza i pielęgniarki. Jednak niewłaściwe zarządzanie tymi narzędziami może prowadzić do poważnych zagrożeń dla bezpieczeństwa pacjentów. Decyzja NHS England o rejestracji systemów AVT wskazuje na rosnącą skalę wykorzystania AI scribing, zgodnie z ambitnym planem dziesięcioletnim. Problem polega jednak na tym, że w dokumentacji medycznej, gdzie dane są kluczowe, błędy generowane przez AI mogą prowadzić do nieodwracalnych skutków. Regulacje dotyczące bezpieczeństwa AI, takie jak unijny AI Act czy przepisy opracowywane w USA, próbują adresować te wyzwania. Mimo to brakuje szczegółowych informacji na temat incydentów wynikających z błędów AI oraz istniejących standardów sprzed 2016 roku, które nie uwzględniają dynamicznego rozwoju AI. Co więcej, choć nowe ramy cyberbezpieczeństwa zaczynają uwzględniać ryzyka związane z AI, pozostaje wiele niewiadomych. Na przykład, jak zabezpieczyć dane, gdy AI nie tylko transkrybuje, ale także generuje nowe teksty? Bez odpowiednich integracji systemów ryzyko błędów wzrasta, a każda niespójność w danych może mieć katastrofalne skutki dla pacjenta. Niezbędne są audyty i monitorowanie, by zapewnić, że systemy AI działają zgodnie z zamierzeniami. Obecne regulacje nie w pełni uwzględniają specyfikę ryzyk klinicznych, co stanowi palący problem. Wprowadzenie etykietowania generowanych przez AI notatek oraz ograniczenie dostępu tylko do niezbędnych danych to kroki, które mogą pomóc zminimalizować niebezpieczeństwa. Bez tego nawet najmniejszy błąd w dokumentacji może zyskać status faktu, wpływając na kolejne decyzje medyczne. Potrzeba dalszych badań i zbierania danych dotyczących incydentów związanych z AI scribing jest pilna. Obecnie brakuje odpowiednio szczegółowych statystyk, które umożliwiłyby pełne zrozumienie zakresu problemów i ich wpływu na zaufanie do systemów opieki zdrowotnej. Jeśli uda się pokonać te wyzwania, technologia ambient voice może rzeczywiście stać się zasłużonym zaufanym asystentem w opiece zdrowotnej, o czym marzy plan dziesięcioletni. Kluczowe jest jednak, aby te innowacje były wdrażane z najwyższą ostrożnością i odpowiedzialnością.
Przejdź do źródła
digitalhealth.net
