niedziela, 13 październik 2024 01:05

Nie polegaj na sztucznej inteligencji w kwestii porad medycznych

Sztuczna inteligencja i oparte na niej chatboty nie są rzetelnym i bezpiecznym źródłem informacji porad medycznych/zdrowotnych Sztuczna inteligencja i oparte na niej chatboty nie są rzetelnym i bezpiecznym źródłem informacji porad medycznych/zdrowotnych fot: unsplash

Wielu pacjentów wierzy, że chatboty AI mogą być źródłem wiarygodnych informacji o lekach. Badanie opublikowane w "BMJ Quality & Safety" wskazuje jednak, że nie zawsze tak jest. Chatboty, mimo że są trenowane na szerokich zbiorach danych, mogą generować dezinformację i niebezpieczne treści. Eksperci sprawdzili odpowiedzi chatbotów na temat najczęściej przepisywanych leków w USA, oceniając ich dokładność i potencjalne ryzyko. Wyniki pokazały, że 39% odpowiedzi chatbotów było sprzecznych z konsensusem naukowym, a niektóre mogły prowadzić do poważnych konsekwencji zdrowotnych.

  1. Jakie ryzyko związane jest z korzystaniem z chatbotów AI w kontekście zdrowotnym?
  2. Jaką dokładność osiągnęły chatboty w badaniu?
  3. Jakie konsekwencje mogą wynikać z nieprecyzyjnych odpowiedzi AI?
  4. Dlaczego pacjenci nie powinni opierać się wyłącznie na chatbotach AI?
  5. Jakie wnioski wyciągnęli badacze na temat bezpieczeństwa chatbotów AI?

Kompleksowe oceny odpowiedzi chatbotów na pytania o leki

W badaniu przetestowano odpowiedzi chatbotów na 10 pytań o 50 popularnych leków. Odpowiedzi oceniano pod kątem przejrzystości i zgodności z danymi referencyjnymi. Zastosowano wskaźnik Flesch Reading Ease, by ocenić poziom czytelności treści, który wykazał, że większość odpowiedzi wymaga wykształcenia na poziomie akademickim. Chociaż niektóre odpowiedzi były kompletne, wiele z nich było trudnych do zrozumienia i często brakowało w nich kluczowych informacji.

Jakie zagrożenia związane są z wykorzystaniem AI do porad zdrowotnych?

Badacze stwierdzili, że AI często nie jest w stanie rozpoznać intencji pacjenta, co prowadzi do ryzyka dla jego zdrowia. Analiza wykazała, że w 22% przypadków zalecenia AI mogły prowadzić do poważnych konsekwencji zdrowotnych, w tym nawet do śmierci. Podkreślono potrzebę konsultowania się z lekarzami, zanim pacjenci podejmą decyzje na podstawie informacji uzyskanych z AI.

Chatboty AI - przyszłość, ale czy bezpieczna?

Badanie wskazuje, że AI ma potencjał w obszarze informacji medycznych, jednak obecnie jest ważne, aby pacjenci polegali na profesjonalnych poradach medycznych. Użycie chatbotów AI do informacji o lekach wymaga ostrożności, a narzędzia te powinny być bardziej precyzyjne i niezawodne, zanim zostaną szerzej zaadaptowane.

Przypisy:

Flesch Reading Ease to metoda oceny czytelności tekstu, opracowana przez Rudolpha Flescha. System ten używa formuły, która analizuje średnią długość zdań oraz liczbę sylab na słowo, aby określić poziom trudności tekstu. Skala wyników wynosi od 0 do 100 punktów, gdzie wyższe wartości oznaczają łatwiejszy do zrozumienia tekst. Na przykład, wynik między 90 a 100 wskazuje na tekst bardzo łatwy, odpowiedni dla dzieci, natomiast wynik 0-30 sugeruje tekst trudny, wymagający wyższego wykształcenia.

Chatbot AI to program komputerowy, który symuluje rozmowę z użytkownikiem przy użyciu sztucznej inteligencji. Chatboty AI są projektowane do udzielania odpowiedzi na różnorodne pytania, w tym dotyczące zdrowia, produktów i usług, przez analizowanie dużych zbiorów danych z internetu. Mogą prowadzić konwersacje, udzielać informacji oraz wspierać w zadaniach, lecz ich odpowiedzi mogą czasami być niepełne lub błędne, szczególnie w kwestiach związanych z bezpieczeństwem zdrowotnym.

Źródło: MedicalXpress, Dailymail

Dział: Zdrowie
Oznaczone pod

Artykuły powiązane

Więcej w tej kategorii: « Co musisz wiedzieć po diagnozie raka piersi? Fakty i mity: Co musisz wiedzieć o ADHD? »
powrót na górę
  • Nie przepłacaj za przeszłość – czas na kredyt z niższą ratą!
    Nie przepłacaj za przeszłość – czas na kredyt z niższą ratą!

    Kredyt hipoteczny, który kiedyś wydawał się najlepszą możliwą opcją, dziś może być jednym z najbardziej kosztownych elementów Twojego budżetu. Na szczęście rynek finansowy daje szansę, by nie płacić więcej, niż trzeba. Kredyt z przeszłości nie musi być Twoją przyszłością.

    Napisano poniedziałek, 14 kwiecień 2025 13:40
  • Grupa krwi a ryzyko nowotworu
    Grupa krwi a ryzyko nowotworu

    Nowe badania sugerują, że osoby posiadające grupę krwi A, B lub AB mogą być bardziej narażone na rozwój niektórych nowotworów przewodu pokarmowego. Z kolei osoby z grupą krwi 0, zarówno dodatnią, jak i ujemną, mogą mieć niższe ryzyko zachorowania na raka trzustki. Ustalenia te pochodzą z analiz przeprowadzonych na populacjach w różnych krajach i wskazują na możliwy związek między typem krwi a podatnością na konkretne nowotwory.

    Napisano środa, 09 kwiecień 2025 23:01
  • Wpływ aspiryny na raka
    Wpływ aspiryny na raka

    Naukowcy z Uniwersytetu w Cambridge odkryli, że powszechnie dostępna aspiryna może pomóc w zapobieganiu przerzutom niektórych nowotworów. W badaniach na myszach wykazano, że lek ten może wspierać układ odpornościowy w zwalczaniu komórek nowotworowych, zanim rozprzestrzenią się one poza miejsce pierwotne. Badania sugerują, że aspiryna może ograniczyć produkcję czynnika krzepnięcia TXA2, który osłabia działanie limfocytów T, odpowiedzialnych za niszczenie komórek nowotworowych.

    Napisano niedziela, 06 kwiecień 2025 17:50
  • Mikroplastik w torebkach herbaty
    Mikroplastik w torebkach herbaty

    Mikroplastik, niewidoczne gołym okiem cząstki tworzyw sztucznych, został po raz kolejny powiązany z ludzkim organizmem. Nowe badania pokazują, że nawet do 7 gramów plastiku może obecnie znajdować się w ludzkim mózgu. To ilość porównywalna z wagą plastikowej łyżeczki. Naukowcy z Kanady i Stanów Zjednoczonych przedstawili możliwe źródła ekspozycji i wskazali proste działania, które mogą znacząco ograniczyć ryzyko kontaktu z tymi cząstkami.

    Napisano czwartek, 03 kwiecień 2025 23:58
  • Czy lodowe kąpiele to dobry pomysł?
    Czy lodowe kąpiele to dobry pomysł?

    Kąpiele w lodzie od lat cieszą się popularnością wśród sportowców, influencerów oraz osób dbających o zdrowie. Zwolennicy tej metody podkreślają jej pozytywny wpływ na regenerację organizmu, poprawę nastroju i zwiększenie odporności. Jednak najnowsze badania pokazują, że rzeczywistość może być bardziej złożona. Zespół naukowców z Uniwersytetu Australii Południowej przeanalizował wyniki 11 niezależnych badań, w których wzięło udział 3177 uczestników. Wyniki analizy zostały opublikowane w otwartym czasopiśmie naukowym Plos One.

    Napisano środa, 02 kwiecień 2025 23:31
  • Wpływ samotności na zdrowie
    Wpływ samotności na zdrowie

    W dobie szybkiego postępu technologicznego i cyfryzacji coraz więcej osób doświadcza samotności oraz izolacji społecznej. Problem ten dotyka nie tylko seniorów, ale również młodzież. Najnowsze badania przeprowadzone przez Uniwersytet w Cambridge oraz Uniwersytet Fudan rzucają światło na biologiczne mechanizmy, które mogą tłumaczyć wpływ samotności na zdrowie człowieka.

    Napisano niedziela, 30 marzec 2025 23:05
  • Wpływ cytrusów na depresję
    Wpływ cytrusów na depresję

    Depresja dotyka miliony ludzi na całym świecie. Badacze od lat poszukują skutecznych sposobów na zmniejszenie ryzyka wystąpienia tej choroby. Najnowsze badanie opublikowane w czasopiśmie "Mikrobiom" wykazało, że codzienne spożywanie pomarańczy może mieć wpływ na obniżenie prawdopodobieństwa zachorowania na depresję. Wyniki wskazują na ścisły związek między dietą, zdrowiem jelit a samopoczuciem psychicznym.

    Napisano sobota, 29 marzec 2025 22:02
Subskrybuj to źródło RSS