2025年1月7日,FDA發(fā)布了支持人工智能醫(yī)療器械的設(shè)備軟件功能相關(guān)草案,即"Artificial?。桑睿簦澹欤欤椋纾澹睿悖澹牛睿幔猓欤澹洹。模澹觯椋悖濉。樱铮妫簦鳎幔颍濉。疲酰睿悖簦椋铮睿螅骸。蹋椋妫澹悖悖欤濉。停幔睿幔纾澹恚澹睿簟。幔睿洹。停幔颍耄澹簦椋睿纭。樱酰猓恚椋螅螅椋铮睢。遥澹悖铮恚恚澹睿洌幔簦椋铮睿螅ⅰ?/p>
該指南為包含人工智能功能的器械軟件的上市前提交文件提供建議,涵蓋了支持?。疲模痢彶榈奈募托畔?,還為制造商在全產(chǎn)品生命周期(TPLC)設(shè)計、開發(fā)具備人工智能功能的器械給出參考建議,體現(xiàn)了對該類器械進行生命周期管理的綜合方法。
適用范圍
就本指南而言,FDA將符合器械定義的軟件功能稱為"器械軟件功能"。"功能"一詞指的是產(chǎn)品的特定用途,它可以是產(chǎn)品預(yù)期用途或預(yù)期用途的一個子集。
具備人工智能功能的器械是指包含一個或多個具備人工智能功能的器械軟件功能(AI-DSFs)的器械。一般而言,當(dāng)組合產(chǎn)品的器械組成部分包含?。粒桑模樱啤r,本指南中的建議也適用于該組合產(chǎn)品的器械組成部分。
TPLC一般原則
本指南認可?。裕校蹋谩》椒▽芾砭邆淙斯ぶ悄芄δ艿钠餍狄饬x重大。一方面,就上市提交文件該包含的資料信息提出建議,助于TPLC期間風(fēng)險管理;另一方面,提供資源協(xié)助器械開發(fā)與生命周期管理,保障器械安全有效,還提出關(guān)于此類器械設(shè)計、開發(fā)、部署、維護(包括性能管理)的建議。
如何使用本指南
本指南就應(yīng)納入上市提交文件中的文件資料和信息提供建議,以支持FDA對包含AI-DSFs的器械進行審評。指南的一些部分還描述了與全產(chǎn)品生命周期多個步驟相關(guān)的信息。以下是本指南各部分與全產(chǎn)品生命周期可能對應(yīng)的一個示例:
?開發(fā):風(fēng)險評估、數(shù)據(jù)管理以及模型描述與開發(fā)
?驗證:數(shù)據(jù)管理與驗證
?最終器械描述:器械描述、模型描述與開發(fā)、用戶界面與標簽、公開提交摘要
?上市后管理:器械性能監(jiān)測與網(wǎng)絡(luò)安全
指南內(nèi)容框架
本指南描述了人工智能設(shè)備上市前提交的內(nèi)容建議,包括以下部分:
V.Device?。模澹螅悖颍椋穑簦椋铮?/p>
VI.User?。桑睿簦澹颍妫幔悖濉。幔睿洹。蹋幔猓澹欤椋睿?/p>
VII.Risk Assessment
VIII.Data?。停幔睿幔纾澹恚澹睿?/p>
IX.Model?。模澹螅悖颍椋穑簦椋铮睢。幔睿洹。模澹觯澹欤铮穑恚澹睿?/p>
X.Validation
XI.Device?。校澹颍妫铮颍恚幔睿悖濉。停铮睿椋簦铮颍椋睿?/p>
XII.Cybersecurity
XIII.Public Submission Summary
針對網(wǎng)絡(luò)安全
與集成到醫(yī)療器械中的任何數(shù)字或軟件組件一樣,人工智能可能會帶來網(wǎng)絡(luò)安全風(fēng)險,可能受網(wǎng)絡(luò)安全威脅影響的人工智能風(fēng)險示例包括但不限于以下方面:
數(shù)據(jù)投毒:注入不真實或惡意修改的數(shù)據(jù),從而使醫(yī)療診斷的結(jié)果面臨風(fēng)險。
模型竊?。嚎赡苁褂脗卧旎虼鄹牡臄?shù)據(jù)來推斷模型細節(jié)或復(fù)制模型。
模型規(guī)避:蓄意構(gòu)造或修改輸入樣本以欺騙模型,使其做出錯誤分類。
數(shù)據(jù)泄露:網(wǎng)絡(luò)威脅可能利用漏洞來獲取模型中敏感的訓(xùn)練或推理數(shù)據(jù)。
過擬合:網(wǎng)絡(luò)威脅可能蓄意讓模型?。⑦^擬合",使人工智能組件在難以有效適應(yīng)修改后的患者數(shù)據(jù)時,容易遭受對抗性攻擊。
模型偏差:攻擊者可能利用對抗樣本利用已知偏差,在訓(xùn)練期間植入后門以便日后觸發(fā)偏差行為。
性能漂移:網(wǎng)絡(luò)威脅可能通過改變基礎(chǔ)數(shù)據(jù)分布導(dǎo)致模型性能漂移,從而使模型性能下降。
注:文章來源于網(wǎng)絡(luò),如有侵權(quán),請聯(lián)系刪除