Światowa Organizacja Zdrowia (WHO) ostrzega przed pochopnym wykorzystaniem sztucznej inteligencji w opiece zdrowotnej.

WHO konkretnie wspomina o chatbotach wykorzystujących sztuczną inteligencję, które mogą dostarczać użytkownikom fałszywych i niezweryfikowanych informacji. Organizacja twierdzi, że korzystaniu z tych nowych technologii nie towarzyszy dostateczna ostrożność i kontrola. Zaapelowała o poszanowanie zasad przejrzystości, profesjonalną kontrolę i surową ocenę wyników.

Przeczytaj także Sztuczna inteligencja umożliwi bezinwazyjne odczytywanie myśli, zamieniając je na tekst

„Pospieszne wprowadzenie nieprzetestowanych systemów może prowadzić do błędów ze strony pracowników służby zdrowia, szkód dla pacjentów, utraty zaufania do sztucznej inteligencji, a tym samym podważyć (lub opóźnić) wykorzystanie i potencjalne korzyści długoterminowe z tych technologii na całym świecie – poinformowała organizacja.

Według WHO wykorzystanie sztucznej inteligencji w opiece zdrowotnej nie wiąże się z „ostrożnością, która normalnie byłaby stosowana w przypadku każdej nowej technologii”. WHO wezwała kraje i organizacje do dokładnego przetestowania systemów wykorzystujących sztuczną inteligencję przed wprowadzeniem ich do służby zdrowia. Tam mogłyby służyć jako pomoc w podejmowaniu decyzji dla lekarzy i pracowników służby zdrowia.

Przeczytaj także W centrum uwagi znajduje się sztuczna inteligencja, państwa zgadzają się co do konieczności jej opanowania

WHO ostrzega przed niektórymi aspektami wykorzystania chatbotów wykorzystujących sztuczną inteligencję. W zależności od organizacji systemy te mogą dostarczać odpowiedzi z wprowadzającymi w błąd informacjami, które użytkownikowi końcowemu mogą wydawać się prawdziwe. Chatboty mogą również generować „wysoce przekonujące dezinformacje”, na które instytucjom bardzo trudno byłoby odpowiedzieć. Organizacja ostrzega również przed tym, jak te systemy postępują z danymi osobowymi użytkowników.