Wo liegen die Risiken von großen Sprach- oder Basismodellen bei der Auswertung medizinischer Bilddaten? Die potentielle Schwachstelle sind Textinformationen! Ist in Bildern Text integriert, kann dieser das Urteilsvermögen von KI-Modellen bei der Analyse medizinischer Bilddaten negativ beeinflussen. Das haben Forschende unter der Federführung der Universitätsmedizin Mainz und des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit der TU Dresden im Rahmen ihrer Studie „Incidental Prompt Injections on Vision–Language Models in Real-Life Histopathology“ herausgefunden. Die Studienergebnisse sind in der Fachzeitschrift NEJM AI erschienen.
Quelle: IDW-Informaitionsdienst d. Wissenschaft
