Generative KI in Healthcare & Life Sciences: Abwägen von Risiko und Nutzen
In keiner anderen Branche ist das Potenzial generativer KI (GenAI) so vielversprechend wie in Healthcare & Life Sciences. Durch den Einsatz von GenAI könnten wir in der Lage sein, neue Medikamente schneller zu entdecken, die Wege von Patienten und Leistungserbringern besser zu verstehen, Self-Service-Lösungen zur Bereitstellung medizinischer Erkenntnisse oder den Zugang zu klinischen Studienregistern anzubieten und Prozesse zu automatisieren, die Ressourcen und Geld kosten. All das dient dazu, die Versorgung zu verbessern und die Kosten zu senken.
Es ist jedoch auch wahr, dass keine andere Branche mit so vielen Risiken konfrontiert ist. Die Gesetze und ethischen Verpflichtungen im Hinblick auf den Schutz von Patientendaten und die Möglichkeit, durch Fehler Schaden anzurichten, machen GenAI in Healthcare & Life Sciences (HCLS) zu einer ebenso beängstigenden wie spannenden Perspektive.
Die GenAI-Technologie entwickelt sich in rasantem Tempo weiter, während die Empfehlungen und Vorschriften für den optimalen Einsatz von GenAI in Healthcare & Life Sciences unter Druck stehen, Schritt zu halten. Die Geschwindigkeit des Wandels, gepaart mit den Risiken, wird einige Unternehmen von Experimenten abhalten.
Das wäre ein Fehler. Es ist klug, mit Vorsicht vorzugehen. Wer auf der Stelle tritt, gefährdet die Chancen, von dieser außergewöhnlichen technischen Entwicklung zu profitieren. Gleichzeitig birgt die Erwartung, dass GenAI das Geschäft sofort verändern wird, ein enormes Risiko. Wie können HCLS-Unternehmen die richtige Balance finden, um weiterhin innovativ zu sein, das Risiko zu minimieren und messbare Ergebnisse zu erzielen, die die Investition rechtfertigen? Kurz gesagt: Befähigen Sie Ihre Mitarbeiter.
Der Einsatz von GenAI ohne menschliche Aufsicht könnte die Patientensicherheit gefährden. Der Einsatz von GenAI als Agent, der die von Menschen ausgeführten Aufgaben unterstützt, entfaltet das volle Potenzial von GenAI und stärkt gleichzeitig die Sicherheitsvorkehrungen.
GenAI in Healthcare & Life Sciences: Eine Einführung
Generative KI ist der Zweig der KI, der auf enormen Datenmengen trainiert wird, um neue Inhalte zu erstellen, sei es schriftlich, visuell oder auditiv. GenAI lernt aus den Mustern und Strukturen vorhandener Artefakte, wie z. B. Texte in natürlicher Sprache oder Bilder, um neue Artefakte mit ähnlichen Merkmalen zu erstellen.
Große Sprachmodelle (LLMs) sind eine Form von GenAI, die auf großen Mengen öffentlicher Daten trainiert werden, um lexikalische Bedeutungen zu kontextualisieren. Dieses inhärente Verständnis ermöglicht es den Modellen, kontextrelevante, überzeugende, menschenähnliche Antworten zu geben.
Doch bis die Menschheit sich sicher ist, dass KI keinen Herzinfarkt falsch diagnostiziert oder etwas halluziniert, das wie ein medizinischer Ratschlag aussieht, sollten wir GenAI nicht ohne menschliche Aufsicht einsetzen. Medizinische Behandlungen dürfen ausschließlich von Personen mit entsprechender ärztlicher Zulassung durchgeführt werden, eine solche Zulassung gibt es für Roboter derzeit nicht. Auch wenn Tests zeigen, dass GenAI ein besseres Verständnis und eine bessere Reaktion auf medizinische Inhalte zeigen, ist es noch zu früh, die Technologie ohne strenge Aufsicht im Gesundheitswesen zu integrieren.
Was können wir also mit dieser bahnbrechenden, bewusstseinsverändernden Ressource anfangen? Tatsächlich eine ganze Menge.
Die Do's & Don'ts von GenAI in HCLS
GenAI ist kein Allheilmittel. Es ist wichtig, bei jeder neuen technischen Intervention einen gestalterischen Ansatz zu verfolgen. Das bedeutet, dass wir zunächst das Problem oder die Herausforderung definieren, den Status quo verstehen und erst dann bewerten müssen, welche Technologien - einschließlich GenAI - die größte Investitionsrendite bringen könnten.
Wenn GenAI das richtige Werkzeug für das Problem zu sein scheint, müssen wir die Risiken und den Aufwand verstehen, bevor wir entscheiden, ob der potenzielle Nutzen es wert ist. Wenn GenAI Halluzinationen (falsche Informationen) erzeugt oder Antworten liefert, denen der Kontext fehlt, wie wird sich das auf Patienten und Interessengruppen auswirken?
Es gibt jedoch Bereiche, in denen GenAI den Zugang zu Erkenntnissen ohne übermäßiges Risiko beschleunigen kann. Im Moment ist es am besten, GenAI nicht als Ersatz für den Menschen zu sehen, sondern als Ergänzung, die uns hilft, unsere Arbeit schneller und effizienter zu erledigen.
GenAI kann mit minimalem Risiko eingesetzt werden, um Arbeiten zu unterstützen, bei denen Fachexperten Teil der Wertschöpfungskette sind. Beispiele für Anwendungsfälle sind:
- Zusammenfassung von Texten, die aus geschützten Inhalten extrahiert wurden und nur an interne Benutzer weitergegeben werden sollen
- Erstellung von Entwurfstexten, die anschließend über geeignete Kanäle geprüft und genehmigt werden
- Extraktion von Eingabeaufforderungen aus Formularen und/oder Textmining zur Verbesserung semantischer Suchprogramme und zur Entwicklung kuratierter Datensätze
- On-call support für interne Mitarbeiter zur Verbreitung von Best Practices und Standardbetriebsverfahren sowie zur Verbesserung der Produktivität der Mitarbeiter
- Extraktion von Metadaten und relationales Mapping, um mit natürlicher Sprache proprietäre Datenbestände abfragen zu können
Was diese Anwendungsfälle gemeinsam haben, ist natürlich der menschliche Input, um sicherzustellen, dass die Ergebnisse validiert und kontrolliert werden. Die Menschen sind sich bewusst, dass die Ergebnisse computergeneriert sind und der Geschäftsprozess ist so konzipiert, dass er eine Überprüfung beinhaltet.
Auf der anderen Seite gibt es mehrere Bereiche, die für GenAI verlockend erscheinen könnten, aber eine gründlichere Prüfung und Validierung erfordern. Wir raten zu den folgenden Vorsichtsmaßnahmen:
- Beschränken Sie die Bereitstellung medizinischer Informationen oder Aufklärung für Patienten und medizinisches Personal aufgrund des Risikos von Halluzinationen.
- Verwenden Sie LLMs nicht als Q&A Schnittstelle für Patienten oder medizinisches Personal ohne Einschränkungen; verwenden Sie stattdessen Retrieval-Augmented Generation (RAG)-Methoden, um beispielsweise die Qualität der Daten zu verbessern.
- Setzen Sie LLMs nicht zur dynamischen Generierung von Inhalten ein, ohne vorher Prozesse zur Überprüfung und Freigabe zu durchlaufen
- Geben Sie keine persönlichen Informationen an ein LLM weiter, ohne die Erlaubnis dazu einzuholen. Datenschutzgesetze müssen weiterhin berücksichtigt werden, wenn wir darüber nachdenken, welche Datensätze wir für GenAI-Anwendungen freigeben.
Umsetzung in die Realität
Wie lässt sich all dies nun in der Praxis umsetzen? Wir entwickeln derzeit Ressourcen für Kunden und arbeiten gleichzeitig daran, unsere eigenen Ideen in zukunftsfähige Tools zu integrieren. Hier ist ein Überblick über einige unserer Anwendungsfälle:
Semantisches Suchsystem für eine verbesserte Beweiserstellung
Unsere Lösung nutzt die Verarbeitung natürlicher Sprache, um Text aus unstrukturierten Datenbeständen zu extrahieren und diese Teile für die Suche und den Abruf verfügbar zu machen. Der Einsatz von LLMs bietet die Möglichkeit, extrahierte Erkenntnisse zusammenzufassen und gleichzeitig eine Längsschnittansicht von Trends im Zeitverlauf zu unterstützen.
Generierung von Trainingsdaten
In Zusammenarbeit mit mehreren multinationalen Pharma- und Biotech-Unternehmen entwickeln wir Self-Service-Such- oder Chatbot-Schnittstellen und experimentieren mit dem Einsatz von GenAI zur Extraktion von Frage-Antwort-Paaren aus kundeneigenen Daten. Diese zusätzlichen goldenen Datensätze werden dann für das Training der Absichtserkennung verwendet.
Generative KI Semantische Dokumentenerfassung
Der aktuelle Prozess zur Extraktion von Informationen aus klinischen Dokumenten besteht darin, dass Menschen jedes Dokument überprüfen, Datenfelder erstellen und die entsprechenden Daten manuell in diese definierten Felder eingeben, was teuer und zeitaufwändig ist. Wir haben ein Proof-of-Concept mit einem hybriden Ansatz entwickelt.
Wir haben ein LLM verwendet, um Text aus klinischen Dokumenten zu extrahieren und dann den Text in ein strukturiertes Format zu konvertieren, indem Felder automatisch zugewiesen wurden. Wir haben mit einem menschlichen Verantwortlichen zusammengearbeitet, um die von der Technologie ermittelten Schlüsselergebnisse zu überprüfen.
Die Merkmale unseres Ansatzes umfassen:
- Optische Zeichenerkennung zum Parsen von Text-in-Bild-Dateien (falls zutreffend)
- LLM zur Aufteilung von Dokumenten in verschiedene Fälle (falls zutreffend)
- LLM zur Extraktion semantisch relevanter Felder in ein vordefiniertes JSON-Format
Accelerator zum Anwenden von LLM zur Visualisierung und Klassifizierung von Studienabbruch-Trends
Wir haben einen Accelerator entwickelt, um Forschern zu helfen, Signale für die Sicherheit klinischer Studien effizienter zu verstehen, indem wir die Gründe für einen vorzeitigen Studienabbruch anhand einer Taxonomie von Problembereichen identifizieren (z. B. Rekrutierungsprobleme, Wirksamkeitsprobleme, Sponsorenentscheidungen, Geschäftsentscheidungen oder Finanzierungsprobleme). Diese Gründe für einen Studienabbruch wurden gruppiert und in einer Front-End-Schnittstelle mit einem Vertrauenswert für jede Klassifizierung angezeigt. Neben der Klassifizierung haben wir ein Dashboard entwickelt, das es den Nutzern ermöglicht, Daten zu visualisieren und nach bestimmten Studien zu suchen.
Der intelligente Einsatz von GenAI
In der HCLS-Branche gibt es Daten, die es uns ermöglichen, Leben zu verbessern - wenn wir sie uns zunutze machen können. GenAI, klug eingesetzt, wird Innovationen weiter und schneller vorantreiben als je zuvor. Machen Sie sich bereit.
Ein besonderer Dank für ihr Feedback und ihre Mitarbeit gilt Jonathan Rioux, Managing Principal, Data Analytics Consulting, EPAM, und Eric McVittie, Manager, Data Analytics Consulting, EPAM.
Erfahren Sie mehr über unsere Arbeit im Bereich Life Sciences & Healthcare.
