Ramverket som utvecklades i Lausanne dokumenterar data, kod och utvärderingar för att göra användningen av språkmodeller inom hälso- och sjukvården mer inspektionsbar.

Hälso- och sjukvård är ett av de områden där införandet avartificiell intelligens och stordata Det går fram med större försiktighet, inte på grund av bristande intresse, utan för att fel får direkta konsekvenser för människor. Stora språkmodeller används redan, eller testas, för att stödja läkares arbete: de kan hjälpa till att vägleda en diagnos, sammanfatta klinisk dokumentation, föreslå prioriteringar eller bistå i beslut på akutmottagningar. Den kritiska punkten förblir dock verifierbarheten. Om ett system producerar en rekommendation utan att göra sina data, metoder och utbildningskriterier tillgängliga, blir oberoende kontroll bräcklig.

Det är på denna punkt han ingriper MeditronFO, tillkännagavs avÉcole Polytechnique Fédérale de LausanneEnligt universitetet i Vaud är detta det första helt öppna ramverket för att bygga stora språkmodellläkareTyngdpunkten ligger inte bara på tillgängligheten av den slutliga modellen, utan på hela utvecklingskedjan: data, kod, utbildningsprocedurer, dokumentation och utvärderingar. I en reglerad, känslig och professionellt ansvarstagande bransch är denna skillnad inte obetydlig.

Projektet föddes i Laboratorium för intelligent global hälsa och humanitära insatstekniker, känd som Ljus, inom School of Computer and Communication Sciences vid EPFL. Den tekniska grunden är den öppna som redan används av Meditron, släppt 2023, men den utveckling som presenteras nu syftar till att göra hela konstruktionsmetoden mer transparent. Det uttalade målet är att möjliggöra "medikalisering" av grundläggande öppna modeller, det vill säga deras anpassning till hälso- och sjukvårdsområdet genom klinisk kunskap, dokumenterade datamängder och specifika valideringsprocedurer.

Varför öppningen väger mer än bara modelllanseringen

I AI-språk används ordet "öppen" ofta inkonsekvent. En modell kan göra vikter tillgängliga, men hålla datamängder, filtreringssteg, träningsval eller utvärderingsprotokoll ogenomskinliga. För klinisk användning skapar denna partiella öppenhet ett granskningsproblem: sjukhus, forskare, myndigheter och läkarkåren kan se resultaten, men inte alltid rekonstruera hur de erhölls.

MeditronFO försöker överbrygga denna klyfta. Ramverket har tillämpats på helt öppna basmodeller, inklusive OLMo, EuroLLM e Öppna, en schweizisk modell utvecklad av EPFL och ETH Zürich som en del av det schweiziska AI-initiativet. Åtgärden är betydelsefull eftersom den flyttar fokus från isolerad prestanda till utvecklingsspårbarhetInom medicinen kan det vara lika viktigt att veta vilken väg ett system tar till ett svar som att mäta noggrannheten i själva svaret.

Xavier Theimer-Lienhard, en doktorand som leder Meditron på LiGHT, sammanfattar principen med en direkt jämförelse mellan klinisk träning och modellträning.

”Vi skulle aldrig lita på en läkare vars utbildning inte kunde verifieras: samma standard bör gälla för AI inom sjukvården.”

Uttalandet klargör en aspekt som ofta förbises i debatten om generativa system: tillförlitlighet sammanfaller inte med tillgången till ett effektivt gränssnitt. Istället kräver det dokumentation, reproducerbarhet och möjligheten att kontrolleras. Frågan gäller också säkerhet och integritet, eftersom hälso- och sjukvårdsmodeller behandlar kunskap och data som kan gränsa till känslig information, även när de inte direkt inkluderar identifierbara patientjournaler.

Den öppna komponenten eliminerar inte i sig risken för partiskhet, fel eller missbruk. Däremot minskar den ett av de största hindren för oberoende analyser. Med andra ord garanterar den inte automatiskt klinisk säkerhet, men den gör arbetet med verifiering, jämförelse och förbättring mer konkret.

Kliniker involverade i konstruktionen, inte bara det slutliga testet

Ett utmärkande drag för projektet är att vårdpersonal engagerar sig från de tidigaste stadierna. Enligt EPFL utvecklades MeditronFO med kliniker involverade i dataurval, validering av output och identifiering av potentiella kritiska problem. Denna metod minskar risken för att utveckla formellt sofistikerade verktyg som är dåligt anpassade till den dagliga praxisen.

Validering går också igenom MOOVE, en förkortning för Massive Open Online Validation and Evaluations, en miljö genom vilken kliniker deltar i utvärdering och kontinuerlig förbättring av modeller. För en teknik som är utformad för att interagera med verklig medicin är detta en avgörande punkt: utmaningen är inte bara att korrekt svara på en fråga, utan att göra det under förhållanden som liknar dem en läkare arbetar under, med tidsbegränsningar, ofullständig information och operativt ansvar.

Ramverket kombinerar offentliga medicinska dataset med klinikergranskade syntetiska data som härrör från medicinska undersökningar, riktlinjer och verkliga patientfall. EPFL-källan indikerar också användningen av en uppsättning expertkurerade kliniska dataset hämtade från över 46 000 kliniska riktlinjerDetta är viktig data eftersom den visar omfattningen av den dokumentation som används för att specialisera modellerna, men den måste läsas i samband med kvalitetsfrågan: inom hälso- och sjukvården räcker inte mängden införlivad kunskap om den inte åtföljs av urval, granskning och kontextualisering.

Mary-Anne Hartley, läkare och chef för ,Ljus kopplar modellernas konkurrenskraft till klinikers och samhällens aktiva roll.

”Våra resultat visar att konkurrenskraftiga medicinska modeller kan byggas med aktivt engagemang från kliniker och samhällen.”

Denna förändring har organisatoriska konsekvenser. Medicinsk AI presenteras inte som ett verktyg som påverkar hälso- och sjukvårdssystemet utifrån, utan som en mjukvaruarkitektur som ska utvecklas tillsammans med de som är bekanta med procedurer, återkommande fel, institutionella begränsningar och skillnader mellan sammanhang. För hälsoteknikföretag, universitetscentra och sjukhus är lärdomen tydlig: överföringen från centrum av forskning och utveckling Klinisk praxis kräver styrning, inte bara beräkningskraft.

Tekniska resultat och rollen av Schweiz höga datorkraft

När det gäller prestanda rapporterar EPFL att varje MeditronFO-modell överträffade sin respektive basmodell. Det bästa resultatet som anges i pressmeddelandet gäller Apertus-70B-MeditronFO, vilket förbättrade prestationen på medicinska tester 6,6 procentenheter jämfört med den underliggande modellen. Uppgifterna bör tolkas med försiktighet: riktmärken är användbara för att jämföra tekniska konfigurationer, men de ersätter inte kliniska utvärderingar i verkliga miljöer.

Fallets industriella relevans ligger också i den infrastruktur som stöder det. Utvecklingen av MeditronFO stöddes av Schweiziskt AI-initiativ, samarbete mellan EPFL, ETH Zürich och CSCS, det schweiziska nationella superdatorcentret. Enligt initiativets webbplats lanserades programmet i december 2023 med över 10 miljoner GPU-timmar på Alps, superdatorn som drivs av CSCS, och med finansiering från 20 miljoner schweizerfranc av Federal Polytechnics Domain.

Dessa siffror visar varför konkurrensen inom AI inom hälso- och sjukvården inte bara handlar om algoritmer och datamängder. Det kräver datorkraft, distribuerad expertis, utvärderingsinfrastrukturer och en kritisk massa av forskning. Det schweiziska AI-initiativet hävdar självt att de drar nytta av bidragen från över 800 forskare, ingår 70 professorer med fokus på AI, från mer än tio akademiska institutioner i SchweizI denna fyrkant, Illinois superdator Det är inte en enkel teknisk accelerator, utan en del av vetenskaplig suveränitet.

Kopplingen till Apertus förstärker också denna tolkning. Projektets webbplats beskriver det som en helt öppen grundmodell för suverän AI, utvecklad av Swiss AI Initiative med EPFL, ETH Zürich och CSCS. Apertus hävdar öppenhet i sina vikter, data, kod, metoder och anpassningsprinciper. MeditronFO använder denna grund som en av modellerna för att specialisera sig inom det medicinska området och visar hur en uppströms strategi för öppenhet kan generera mer kontrollerbara vertikala tillämpningar.

Från experiment till avdelningar, testplatsen i Tanzania

Nästa steg blir inte bara en jämförelse av nya modeller. Enligt EPFL förbereder teamet kliniska prövningar på flera platser, från Schweiz Alla Tanzania, för att utvärdera hur läkare använder AI i verkliga hälso- och sjukvårdsmiljöer. Studierna kommer att observera om kliniker följer eller förkastar de genererade rekommendationerna och hur dessa beslut påverkar patientvården.

Det fleråriga projektet som EPFL nämner, kallat MED. ANVÄNDNING, syftar också till att förstå om AI kan bidra till att förbättra vårdkvaliteten genom att minska onödiga behandlingar och interventioner. Detta är ett känsligt område: ett beslutsstödssystem kan vara användbart om det förbättrar kvaliteten på tillgänglig information, men det kan bli problematiskt om det introducerar automatisering eller uppmuntrar till överdrivet förtroende för algoritmiska rekommendationer.

Hartley efterlyser specifikt behovet av att mäta effekten i behandlingsförlopp, inte bara i tekniska tester.

"Det är viktigt att få feedback från verkligheten baserat på patientresultat."

Klinisk AI kommer att vara mer trovärdig när den kan granskas

För hälso- och sjukvårdssektorn föreslår MeditronFO en tydlig riktning: klinisk AI kommer att vara mer trovärdig när den kan inspekteras, anpassas och utvärderas av oberoende grupper. För företag innebär detta att proprietära modeller kommer att behöva hantera växande förväntningar på transparens. För institutioner handlar frågan om möjligheten att definiera regler som skiljer mellan formell och faktisk öppenhet.

Det är orealistiskt att tro att alla medicinska system baserade på maskininlärning e djupt lärande bli helt öppna. Det är dock rimligt att hälso- och sjukvården kommer att kräva högre standarder för dokumentation, granskningsbarhet och ansvarsskyldighet, särskilt när AI kommer in i beslutsfattande områden. I denna mening bör MeditronFO inte ses enbart som en ny modell, utan som ett experiment inom teknisk styrning: det synliggör vad som ofta förblir dolt bakom ett genererat svar.

Den avgörande frågan är därför inte det abstrakta löftet om kraftfullare AI. Det handlar om vilken typ av infrastruktur som hälso- och sjukvårdssystem, universitet och tillsynsmyndigheter avser att acceptera. Om modellerna blir en del av klinisk praxis måste förtroendet baseras på verifierbara element: datasprengi, oberoende granskningar, transparent uppmätt prestanda och identifierbart mänskligt ansvar. MeditronFO placerar dessa element i centrum för diskussionen och låter den kliniska prövningen bedöma deras operativa lönsamhet.

Meditron Open Sources: Granskbara AI-arbetsflöden för kliniska juridikexperter

Här är tre insikter som kan intressera dig:

Från EPFL en ny multimodal modell för mer flexibel AI
Apertus är den schweiziska "öppna AI:n" för en mer transparent framtid.
Ett banbrytande hälsovårdsnav baserat helt på AI i Genève