Eine aktuelle Studie schlägt Alarm, was die Genauigkeit der medizinischen Ratschläge von Microsoft Copilot angeht.
In der Studie, die von Forschern in Deutschland und Belgien durchgeführt wurde, wurde Microsoft Copilot gebeten, Antworten auf 10 beliebte medizinische Fragen in Amerika und 50 häufig verschriebene Medikamente zu geben.
Von den 500 generierten Antworten erwiesen sich nur 54% als wissenschaftlich korrekt. Darüber hinaus ergab die Untersuchung, dass 42% der Antworten zu mäßigen oder leichten Schäden führen konnten, während 22% ein Risiko für schwere Schäden oder den Tod darstellten.
Die Forscher warnen davor, sich bei medizinischen Informationen auf KI-Systeme wie Microsoft Copilot zu verlassen und betonen, wie wichtig es ist, stattdessen einen qualifizierten Arzt zu konsultieren.
Die Risiken des Verlassens auf KI-generierte medizinische Ratschläge
Der Zugang zu hochwertiger medizinischer Beratung kann schwierig sein, insbesondere in ländlichen oder unterversorgten Gebieten mit begrenzten Ressourcen. Daher könnten Systeme der künstlichen Intelligenz wie Microsoft Copilot für viele Menschen zur primären Informationsquelle werden.
Allerdings sind die möglichen Folgen, wenn man sich auf ungenaue oder unvollständige medizinische Ratschläge verlässt, schwerwiegend und möglicherweise lebensbedrohlich. Die Forscher betonen, dass KI-generierte Antworten nicht für bare Münze genommen werden sollten und weisen darauf hin, dass bei der Verwendung solcher Systeme Vorsicht geboten ist.
Microsofts Bemühungen, maschinelles Lernen in seine Suchmaschine Bing zu integrieren, waren bisher nur von begrenztem Erfolg gekrönt, wie der stagnierende Marktanteil von Bing zeigt.
Die Genauigkeit automatisierter medizinischer Ratschläge hat tiefgreifende Auswirkungen auf die Ergebnisse für die Patienten, was die dringende Notwendigkeit einer rigorosen Prüfung und Bewertung dieser Systeme unterstreicht.
Mit der zunehmenden Verbreitung intelligenter Technologien in verschiedenen Branchen ist es von entscheidender Bedeutung, diese Bedenken auszuräumen und sicherzustellen, dass die erzeugten Informationen sowohl zuverlässig als auch vertrauenswürdig sind.
Die Ergebnisse dieser Studie sind ein Weckruf für die Entwicklung und den Einsatz von KI-gestützter medizinischer Beratung und unterstreichen die Notwendigkeit größerer Vorsicht und Aufsicht in diesem sich schnell entwickelnden Bereich.