niedziela, 13 październik 2024 01:05

Nie polegaj na sztucznej inteligencji w kwestii porad medycznych

Sztuczna inteligencja i oparte na niej chatboty nie są rzetelnym i bezpiecznym źródłem informacji porad medycznych/zdrowotnych Sztuczna inteligencja i oparte na niej chatboty nie są rzetelnym i bezpiecznym źródłem informacji porad medycznych/zdrowotnych fot: unsplash

Wielu pacjentów wierzy, że chatboty AI mogą być źródłem wiarygodnych informacji o lekach. Badanie opublikowane w "BMJ Quality & Safety" wskazuje jednak, że nie zawsze tak jest. Chatboty, mimo że są trenowane na szerokich zbiorach danych, mogą generować dezinformację i niebezpieczne treści. Eksperci sprawdzili odpowiedzi chatbotów na temat najczęściej przepisywanych leków w USA, oceniając ich dokładność i potencjalne ryzyko. Wyniki pokazały, że 39% odpowiedzi chatbotów było sprzecznych z konsensusem naukowym, a niektóre mogły prowadzić do poważnych konsekwencji zdrowotnych.

  1. Jakie ryzyko związane jest z korzystaniem z chatbotów AI w kontekście zdrowotnym?
  2. Jaką dokładność osiągnęły chatboty w badaniu?
  3. Jakie konsekwencje mogą wynikać z nieprecyzyjnych odpowiedzi AI?
  4. Dlaczego pacjenci nie powinni opierać się wyłącznie na chatbotach AI?
  5. Jakie wnioski wyciągnęli badacze na temat bezpieczeństwa chatbotów AI?

Kompleksowe oceny odpowiedzi chatbotów na pytania o leki

W badaniu przetestowano odpowiedzi chatbotów na 10 pytań o 50 popularnych leków. Odpowiedzi oceniano pod kątem przejrzystości i zgodności z danymi referencyjnymi. Zastosowano wskaźnik Flesch Reading Ease, by ocenić poziom czytelności treści, który wykazał, że większość odpowiedzi wymaga wykształcenia na poziomie akademickim. Chociaż niektóre odpowiedzi były kompletne, wiele z nich było trudnych do zrozumienia i często brakowało w nich kluczowych informacji.

Jakie zagrożenia związane są z wykorzystaniem AI do porad zdrowotnych?

Badacze stwierdzili, że AI często nie jest w stanie rozpoznać intencji pacjenta, co prowadzi do ryzyka dla jego zdrowia. Analiza wykazała, że w 22% przypadków zalecenia AI mogły prowadzić do poważnych konsekwencji zdrowotnych, w tym nawet do śmierci. Podkreślono potrzebę konsultowania się z lekarzami, zanim pacjenci podejmą decyzje na podstawie informacji uzyskanych z AI.

Chatboty AI - przyszłość, ale czy bezpieczna?

Badanie wskazuje, że AI ma potencjał w obszarze informacji medycznych, jednak obecnie jest ważne, aby pacjenci polegali na profesjonalnych poradach medycznych. Użycie chatbotów AI do informacji o lekach wymaga ostrożności, a narzędzia te powinny być bardziej precyzyjne i niezawodne, zanim zostaną szerzej zaadaptowane.

Przypisy:

Flesch Reading Ease to metoda oceny czytelności tekstu, opracowana przez Rudolpha Flescha. System ten używa formuły, która analizuje średnią długość zdań oraz liczbę sylab na słowo, aby określić poziom trudności tekstu. Skala wyników wynosi od 0 do 100 punktów, gdzie wyższe wartości oznaczają łatwiejszy do zrozumienia tekst. Na przykład, wynik między 90 a 100 wskazuje na tekst bardzo łatwy, odpowiedni dla dzieci, natomiast wynik 0-30 sugeruje tekst trudny, wymagający wyższego wykształcenia.

Chatbot AI to program komputerowy, który symuluje rozmowę z użytkownikiem przy użyciu sztucznej inteligencji. Chatboty AI są projektowane do udzielania odpowiedzi na różnorodne pytania, w tym dotyczące zdrowia, produktów i usług, przez analizowanie dużych zbiorów danych z internetu. Mogą prowadzić konwersacje, udzielać informacji oraz wspierać w zadaniach, lecz ich odpowiedzi mogą czasami być niepełne lub błędne, szczególnie w kwestiach związanych z bezpieczeństwem zdrowotnym.

Źródło: MedicalXpress, Dailymail

Dział: Zdrowie
Oznaczone pod

Artykuły powiązane

Więcej w tej kategorii: « Co musisz wiedzieć po diagnozie raka piersi? Fakty i mity: Co musisz wiedzieć o ADHD? »
powrót na górę
  • Nie lemoniada z przypadku, tylko ogród w szklance - organizujemy bezalkoholowy bar na lato
    Nie lemoniada z przypadku, tylko ogród w szklance - organizujemy bezalkoholowy bar na lato

    Drinki bez procentów przeszły w ostatnich latach gruntowną ewolucję. Bezalkoholowy bar rzuca wyzwanie gotowym lemoniadom z marketów oraz przesłodzonym tonikom w plastikowych butelkach. Nowoczesne podejście opieramy na świadomym projektowaniu kompozycji smakowych, precyzyjnym sterowaniu temperaturą i teksturą bąbelków oraz wykorzystaniu zasobów okolicy.

    Napisano wtorek, 31 marzec 2026 11:58
  • Warszawa – gdzie spać? Jaki hotel wybrać i który hotel blisko lotniska będzie najlepszy?
    Warszawa – gdzie spać? Jaki hotel wybrać i który hotel blisko lotniska będzie najlepszy?

    Warszawa jest jednym z najczęściej odwiedzanych miast w Europie Środkowej. Każdego dnia przyjeżdżają tu turyści, uczestnicy konferencji, osoby podróżujące służbowo oraz pasażerowie korzystający z Lotniska Chopina. Nic więc dziwnego, że jednym z najczęściej wpisywanych w wyszukiwarkach pytań jest: Warszawa – gdzie spać?. Zaraz po nim pojawiają się kolejne: jaki hotel w Warszawie wybrać oraz jaki hotel blisko lotniska będzie najlepszy.

    Napisano wtorek, 17 marzec 2026 15:51
  • Osy i szerszenie – zagrożenia i usuwanie gniazd
    Osy i szerszenie – zagrożenia i usuwanie gniazd

    Pojawienie się os lub szerszeni w pobliżu domu lub ogrodu może wywoływać niepokój i stanowić realne zagrożenie dla zdrowia. Choć te owady pełnią ważną rolę w przyrodzie, ich obecność w bezpośrednim sąsiedztwie ludzi wymaga szczególnej ostrożności.

    Napisano wtorek, 10 luty 2026 09:33
  • Mięso, przyprawy i czas – fundamenty prawdziwych wędlin tworzonych z pasją
    Mięso, przyprawy i czas – fundamenty prawdziwych wędlin tworzonych z pasją

    W świecie zdominowanym przez masową produkcję coraz wyraźniej widać potrzebę powrotu do autentyczności.

    Napisano czwartek, 05 luty 2026 08:33
  • Co leczy laser wysokoenergetyczny? Wskazania i rodzaje leczonego bólu
    Co leczy laser wysokoenergetyczny? Wskazania i rodzaje leczonego bólu

    Współczesna fizjoterapia i medycyna rehabilitacyjna dysponują coraz bardziej zaawansowanymi narzędziami wspierającymi redukcję bólu oraz procesy regeneracji tkanek. Jedną z metod coraz częściej wykorzystywanych w gabinetach leczenia bólu i ośrodkach medycyny sportowej jest laseroterapia wysokoenergetyczna, znana również jako HILT (High Intensity Laser Therapy). Czym charakteryzuje się ta forma terapii i w jakich dolegliwościach znajduje zastosowanie?

    Napisano poniedziałek, 02 luty 2026 11:57
  • Colostrum kozie - naturalne wsparcie odporności. Na co zwrócić uwagę przy wyborze suplementu?
    Colostrum kozie - naturalne wsparcie odporności. Na co zwrócić uwagę przy wyborze suplementu?

    W świecie  suplementów diety coraz większym zainteresowaniem cieszy się colostrum kozie, zawierające szereg bioaktywnych substancji, które są cenione za wyjątkowe właściwości wspierające układ odpornościowy. Choć przez lata więcej mówiło się o colostrum bydlęcym, dziś również siara kozia może znaleźć swoje zastosowanie, zwłaszcza wśród osób o szczególnie wrażliwym organizmie. Czym właściwie jest colostrum? Jak działa i jak wybrać produkt naprawdę wysokiej jakości?

    Napisano poniedziałek, 26 styczeń 2026 16:48
  • Minimalizm i ruch – jak współczesne wnętrza łączą lekkość formy z funkcjonalnością
    Minimalizm i ruch – jak współczesne wnętrza łączą lekkość formy z funkcjonalnością

    Minimalizm we wnętrzach to dziś znacznie więcej niż tylko białe ściany i ograniczona liczba dodatków. To filozofia projektowania, w której forma, funkcja i komfort użytkowania tworzą spójną całość. Coraz częściej do tej estetyki dołącza kolejny wymiar – ruch. Nowoczesne wnętrza nie są już statyczne. Zamiast ciężkich, masywnych mebli pojawiają się lekkie konstrukcje, które można przesuwać, obracać i dowolnie konfigurować

    Napisano piątek, 16 styczeń 2026 12:01
Subskrybuj to źródło RSS