ผมคือ Clément Longeac ผมสร้าง DEMNE เฟรมเวิร์กการกำหนดเส้นทางที่เลือกวิธีที่เบาที่สุดซึ่งยังคงเชื่อถือได้สำหรับเอนทิตีแต่ละประเภท ได้แก่ กฎเกณฑ์ transformer หรือ LLM บนคอฮอร์ต AP-HP ที่ไม่เคยเห็นมาก่อน มันกำหนดเส้นทาง 99.5% ของการกล่าวถึงไปยังกฎที่ตรวจสอบได้ด้วย F1 0.941 ขณะที่ transformer ที่ปรับละเอียดทำได้เพียง 0.358
ผมเป็นนักศึกษาชั้นปีที่ 4 ที่ ESIEE Paris สาขา Data Science & AI และอยู่ในหลักสูตร Tremplin Recherche ของโรงเรียน — โปรแกรมที่ออกแบบมาสำหรับนักศึกษาที่มุ่งสู่งานวิจัยระดับปริญญาเอกแทนที่จะเป็นการฝึกงานในอุตสาหกรรมทั่วไป
งานของผมเน้นการทำให้ข้อความทางคลินิกที่ไม่มีโครงสร้างสามารถนำไปใช้ในงานวิจัยได้: การสกัดตัวบ่งชี้ทางชีวภาพ ข้อมูลระยะของโรค และรายละเอียดการรักษาที่ฝังอยู่ในรายงานมะเร็งวิทยาภาษาฝรั่งเศส ซึ่งเครื่องมือ NLP ทั่วไปมักล้มเหลวอย่างต่อเนื่องเมื่อเจอคำศัพท์เฉพาะทางและโครงสร้างเอกสารของสาขานี้
นอกจากการเรียน ผมยังสอนพิเศษวิชาคณิตศาสตร์และฟิสิกส์-เคมีผ่าน Complétude และกำลังเตรียมสมัครทุนปริญญาเอกภาคอุตสาหกรรม CIFRE ด้าน AI ชีวการแพทย์ที่มหาวิทยาลัยซอร์บอนน์
ในระยะยาว วินัยแบบเดียวกันนี้ — การดึงโครงสร้างที่เชื่อถือได้ออกจากข้อความที่ยุ่งเหยิงและมีความเสี่ยงสูง — คือสิ่งที่ดึงดูดผมเข้าสู่งานวิจัยด้านความปลอดภัยของ AI: การสร้างและประเมิน world model ผ่าน AMI Labs และโปรแกรม Anthropic Fellows (นี่คือข้อความร่าง — โปรดแทนที่ด้วยถ้อยคำฉบับสมบูรณ์ของคุณเอง)
ไปป์ไลน์การรู้จำเอนทิตีที่มีชื่อแบบไฮบริดสำหรับข้อความทางคลินิกด้านมะเร็งวิทยาภาษาฝรั่งเศส
of mentions routed to rules (unseen AP-HP cohort, 411/413)
rule F1 vs 0.358 for a fine-tuned DrBERT
leave-one-corpus-out routing concordance
โมเดล NER สำเร็จรูปมักล้มเหลวอย่างหนักกับข้อความทางคลินิกภาษาฝรั่งเศส: คำย่อที่หนาแน่น รูปแบบที่ไม่สอดคล้องกันระหว่างระบบโรงพยาบาล และคำศัพท์ตัวบ่งชี้ทางชีวภาพที่แทบไม่ปรากฏในข้อมูลฝึกฝนทั่วไป DEMNE แก้ปัญหานี้ด้วยไปป์ไลน์แบบขั้นตอนแทนที่จะใช้โมเดลเดียว — แต่ละขั้นตอนจัดการสิ่งที่มันทำได้ดีที่สุด และจะยกระดับไปยังโมเดลที่หนักกว่าเมื่อจำเป็นเท่านั้น
ระบบนี้ปรับแต่ง DrBERT-7GB บนคลังข้อมูลมะเร็งวิทยาภาษาฝรั่งเศสสามชุดที่แตกต่างกัน และมุ่งเป้าไปที่เอนทิตีตัวบ่งชี้ทางชีวภาพเจ็ดประเภทสำคัญที่ใช้ในรายงานที่เกี่ยวข้องกับการรักษา
การจับคู่ด้วย regex และพจนานุกรมช่วยดักจับเอนทิตีที่มีความเชื่อมั่นสูงและความกำกวมต่ำด้วยต้นทุนต่ำ เช่น วันที่ ขนาดยา คำย่อมาตรฐานของตัวบ่งชี้ทางชีวภาพ
DrBERT-7GB ที่ปรับแต่งบนคลังข้อมูลมะเร็งวิทยาสามชุด จัดการกับเอนทิตีที่ต้องการความเข้าใจเชิงความหมายและโดเมนอย่างแท้จริง
ข้อขัดแย้งที่เหลือและกรณีชายขอบจะถูกส่งไปยังขั้นตอน LLM เพื่อขจัดความกำกวมขั้นสุดท้ายก่อนส่งออกผลลัพธ์
การสกัดเอนทิตีทางคลินิกจากเวชระเบียนผู้ป่วยจัดอยู่ในหมวดความเสี่ยงสูงของ EU AI Act อย่างชัดเจน การออกแบบแบบขั้นตอนของ DEMNE คำนึงถึงมาตรา 12 และ 14 ตั้งแต่ต้น ไม่ใช่เพิ่มเข้ามาภายหลัง
ทุกการตัดสินใจในการสกัดข้อมูลสามารถตรวจสอบย้อนกลับไปยังขั้นตอน (กฎเกณฑ์, Transformer หรือ LLM) และคะแนนความเชื่อมั่นที่สร้างมันขึ้นมา ทำให้สามารถบันทึกข้อมูลตรวจสอบได้โดยอัตโนมัติ
ผลลัพธ์จากการตัดสินของ LLM จะถูกทำเครื่องหมายเพื่อให้แพทย์ตรวจสอบ แทนที่จะยอมรับโดยเงียบๆ ทำให้มนุษย์ยังคงมีบทบาทในกรณีที่กำกวม
ประยุกต์และตรวจสอบแนวทางการกำหนดเส้นทางของ DEMNE บนข้อมูลโรงพยาบาล: สกัดตัวบ่งชี้ทางชีวภาพด้านมะเร็ง (ER, PR, HER2, Ki67, FISH) จากรายงานคลินิกภาษาฝรั่งเศส และกำหนดเส้นทางทางคลินิกที่ตรวจสอบย้อนหลังได้และสมจริงต่อการนำไปใช้งาน
ออกแบบ DEMNE ไปป์ไลน์ NER ทางคลินิกแบบผสม (กฎ / transformer / LLM) สำหรับข้อความมะเร็งวิทยาภาษาฝรั่งเศส ขับเคลื่อนด้วยห้าเมตริกคลังข้อมูลที่ถูกจัดรูปแบบอย่างเป็นทางการ — โครงการหลักของเส้นทาง Tremplin Recherche ก่อนการสมัครปริญญาเอก
สร้างแพลตฟอร์มที่ให้ผู้ป่วยบาดเจ็บทางสมองและนักกิจกรรมบำบัดเปรียบเทียบเครื่องมือชดเชยการรู้คิดได้อย่างเป็นระบบ เริ่มต้นเป็นต้นแบบ Python/Streamlit ที่แฮกกาธอน SN@SU (Sorbonne Université ร่วมกับ Flor Sanchez-Luizard นักกิจกรรมบำบัดที่ UEROS L’ADAPT Île-de-France) ขณะนี้กำลังกำหนดขอบเขตการสร้างใหม่ระดับโปรดักชัน (FastAPI, PostgreSQL, Next.js) ด้วยโฮสติงที่สอดคล้องกับ HDS/GDPR และเครื่องมือค้นหาเชิงความหมายสำหรับการจับคู่เครื่องมือทางคลินิก
นักศึกษาชั้นปีที่ห้าของหลักสูตรวิศวกรรมห้าปีที่ ESIEE Paris เชี่ยวชาญด้านวิทยาการข้อมูลและ AI (DSIA)
พัฒนา autopkgtest ด้วย OpenCL เพื่อตรวจสอบความเข้ากันได้ของ GPU AMD (pyopencl, nabu, ufo-filters, pyvkfft) บนโครงสร้างพื้นฐาน Debian/ROCm บน GitLab Salsa
สอนคณิตศาสตร์และฟิสิกส์-เคมีแก่นักเรียนราวสิบคน ตั้งแต่ระดับประถมจนถึงชั้นมัธยมปลายปีสุดท้าย ควบคู่กับการเรียนวิศวกรรม
บันทึกเป็นลายลักษณ์อักษรของงาน DEMNE ขณะที่กำลังมุ่งสู่การส่งตีพิมพ์
ต้นฉบับที่อธิบายรายละเอียดของกรอบการทำงานแบบแคสเคด DEMNE ตัวชี้วัดการกำหนดลักษณะคลังข้อมูลห้าตัวที่ใช้ในการเลือกกระบวนทัศน์ และผลการปรับเทียบจากการค้นหาแบบกริดบนคลังข้อมูลมะเร็งวิทยาภาษาฝรั่งเศสสามชุด
นอกเหนือจาก DEMNE — เครื่องมือที่สร้างขึ้นตั้งแต่ต้นจนจบสำหรับแฮกกาธอนและงานในรายวิชา
แคตตาล็อกเครื่องมือชดเชยการรู้คิดแบบดิจิทัลสำหรับผู้ที่มีการบาดเจ็บทางสมองและนักกิจกรรมบำบัดของพวกเขา
แดชบอร์ดเชิงโต้ตอบที่สร้างภาพมลพิษทางอากาศพื้นหลัง 15 ปีทั่วฝรั่งเศสขึ้นใหม่ (2000–2015)
การรู้จำใบหน้าด้วย CNN บนภาพนิ่งแล้วจึงเป็นวิดีโอ โดยใช้การเพิ่มข้อมูลและการจัดแนวใบหน้า
เกมผจญภัยแบบข้อความบนเทอร์มินัลที่เขียนด้วย Python ด้วยการออกแบบเชิงวัตถุ
แพลตฟอร์มวิเคราะห์ข้อมูลด้านอาหาร: การสแครป, ETL และแดชบอร์ดบนข้อมูลสูตรอาหาร
สคริปต์ autopkgtest ที่ตรวจสอบซอฟต์แวร์วิทยาศาสตร์บน GPU ของ AMD บนโครงสร้างพื้นฐาน CI ของ Debian
เครื่องมือที่จัดกลุ่มตามความเกี่ยวข้องกับงานข้างต้น — ไม่ใช่รายการทั่วไป
การสกัดไบโอมาร์กเกอร์ ระยะของโรค และข้อมูลการรักษาจากข้อความมะเร็งวิทยาภาษาฝรั่งเศสที่ไม่มีโครงสร้าง — จุดที่ NLP ทั่วไปล้มเหลวและการปรับตัวเฉพาะโดเมนเริ่มต้นขึ้น
ออกแบบระบบที่นำทางไปยังระดับที่โปร่งใสน้อยที่สุดเท่าที่ยังตรงตามเกณฑ์ประสิทธิภาพ การปฏิบัติตาม EU AI Act ในฐานะข้อจำกัดด้านการออกแบบ ไม่ใช่ความคิดภายหลัง
ทิศทางระยะยาว: การรวมข้อความทางคลินิก ภาพถ่ายทางการแพทย์ และจีโนมิกส์เข้าด้วยกันในโมเดลที่ให้เหตุผลข้ามรูปแบบข้อมูล — แนวทาง world models ที่ประยุกต์ใช้กับการแพทย์
สอนคณิตศาสตร์และฟิสิกส์-เคมีให้นักเรียนประมาณสิบคนที่ Complétude ตั้งแต่ระดับประถมศึกษาจนถึงมัธยมปลายปีสุดท้าย (ไม่รวมระดับอุดมศึกษา) การทำให้แนวคิดที่ซับซ้อนเรียนรู้ได้คือทักษะการวิจัย ไม่ใช่งานเสริม
บทความเชิงลึกเกี่ยวกับวิธีการ ทางตัน และการตัดสินใจเบื้องหลังงานข้างต้น
ภาพรวมของจุดที่ไปป์ไลน์ NER มาตรฐานล้มเหลวในรายงานมะเร็งวิทยาภาษาฝรั่งเศส และความหมายของสิ่งนี้ต่อโครงสร้างของ DEMNE
เหตุผลในการส่งเอนทิตีผ่านกฎเกณฑ์และ Transformer ที่ปรับแต่งแล้ว ก่อนที่จะเรียกใช้ LLM เลย — และต้นทุนของความผิดพลาดในเรื่องนี้