۱. مقدمه

هوش مصنوعی (AI)، با وجود پتانسیل عظیم خود برای تحول در نظام سلامت، در ایران هنوز به صورت جدی و ساختاریافته در برنامه ملی سلامت قرار نگرفته است. در غیاب یک راهبرد منسجم و چارچوب نظارتی روشن، استقرار ابزارهای هوش مصنوعی اغلب به صورت پراکنده و بدون یک نقشه راه مشخص اتفاق می‌افتد. این خلأ، نه تنها نوآوری را با ریسک‌های ناشناخته مواجه می‌سازد، بلکه مانع بهره‌گیری کامل از این فناوری برای مقابله با چالش‌های کلیدی نظام سلامت کشور نیز می‌شود.

 این گزارش سیاستی، چارچوب‌های نظارتی کلیدی اتحادیه اروپا را که بر هوش مصنوعی در حوزه سلامت حاکم هستند، تحلیل می‌کند. هدف از این تحلیل، ارزیابی چالش‌ها و شتاب‌دهنده‌هایی است که این مقررات برای ذی‌نفعان اصلی—از جمله توسعه‌دهندگان، بیمارستان‌ها و متخصصان مراقبت‌های بهداشتی—ایجاد می‌کنند. در نهایت، این گزارش بینش‌هایی در مورد تعهدات قانونی و تأثیر آن‌ها بر نوآوری ارائه می‌دهد تا مسیر استقرار مسئولانه و مؤثر هوش مصنوعی در سراسر اتحادیه اروپا را هموار سازد.

هدف از این تحلیل، ارائه یک الگوی موفق و درس‌آموز برای ایران است تا با الهام از تجارب اروپا، بتواند از خلأ فعلی عبور کرده و یک چارچوب نظارتی و اجرایی مسئولانه را برای آینده هوش مصنوعی در نظام سلامت خود طراحی کند. این الگو به ایران امکان می‌دهد تا بدون اتلاف وقت و منابع، مسیری امن و مؤثر برای پیشرفت در این حوزه حیاتی را ترسیم نماید.

۲. اکوسیستم نظارتی اتحادیه اروپا برای هوش مصنوعی در حوزه سلامت

اتحادیه اروپا یک رویکرد نظارتی چندلایه و راهبردی را برای هوش مصنوعی در حوزه سلامت اتخاذ کرده است که اهمیت ویژه‌ای دارد. این چارچوب با هدف تقویت اعتماد عمومی و تضمین ایمنی و کارایی فناوری‌های هوش مصنوعی طراحی شده و در عین حال، فضایی برای نوآوری فراهم می‌کند. با این حال، همین چارچوب‌های هم‌پوشان، پیچیدگی‌هایی را برای ذی‌نفعان ایجاد می‌کنند که پیمایش آن نیازمند منابع و تخصص قابل توجهی است. هر یک از مقررات زیر، بخشی از این اکوسیستم پیچیده را تشکیل می‌دهد. این چارچوب‌ها با وجود ایجاد یک بنیان محکم، در عمل چالش‌های قابل توجهی برای ذی‌نفعان ایجاد می‌کنند که در بخش‌های بعدی به تفصیل بررسی خواهند شد.

• ۲.۱. قانون هوش مصنوعی (AIA) قانون هوش مصنوعی، به عنوان یک قانون ایمنی افقی، چارچوبی جامع برای حاکمیت بر سیستم‌های هوش مصنوعی در سراسر اتحادیه اروپا فراهم می‌کند. این قانون با اتخاذ یک رویکرد مبتنی بر ریسک، سیستم‌های هوش مصنوعی را به دسته‌هایی مانند ریسک غیرقابل قبول، ریسک بالا، ریسک شفافیت محدود و ریسک حداقلی طبقه‌بندی می‌کند. اکثر کاربردهای هوش مصنوعی در حوزه سلامت، مانند ابزارهای پشتیبانی از تصمیم‌گیری بالینی، در دسته «ریسک بالا» قرار می‌گیرند. این قانون تعهدات کلیدی را برای ارائه‌دهندگان (توسعه‌دهندگان) و مجریان (مانند بیمارستان‌ها) تعیین کرده و قوانین دیگر مانند مقررات تجهیزات پزشکی را تکمیل می‌کند.
• ۲.۲. مقررات تجهیزات پزشکی و تجهیزات پزشکی تشخیصی آزمایشگاهی (MDR/IVDR) این مقررات، که قبل از قانون هوش مصنوعی وجود داشته‌اند، بر کل چرخه عمر «هوش مصنوعی به عنوان یک دستگاه پزشکی» (MDAI) نظارت دارند. رویکرد آن‌ها مبتنی بر یک سیستم طبقه‌بندی ریسک (از کلاس I تا III) است و بر ارائه شواهد بالینی قوی، قابلیت ردیابی و نظارت مستمر پس از فروش برای تضمین ایمنی و عملکرد دستگاه در طول زمان تمرکز دارد. این مقررات، پایه‌ای برای ارزیابی ایمنی و اثربخشی بالینی ابزارهای هوش مصنوعی در حوزه سلامت فراهم می‌کنند.
• ۲.۳. مقررات عمومی حفاظت از داده‌ها (GDPR) از آنجایی که سیستم‌های هوش مصنوعی برای آموزش و اجرا به حجم عظیمی از داده‌ها نیاز دارند، GDPR نقشی حیاتی ایفا می‌کند. این مقررات تضمین می‌کند که پردازش داده‌های شخصی سلامت به صورت قانونی، ایمن و شفاف انجام شود. رعایت GDPR برای حفظ حریم خصوصی بیماران و ایجاد اعتماد به فناوری‌های هوش مصنوعی که از داده‌های حساس استفاده می‌کنند، اساسی است و از سوءاستفاده از داده‌ها جلوگیری می‌کند.
• ۲.۴. دستورالعمل مسئولیت محصول (PLD) دستورالعمل به‌روزشده مسئولیت محصول، قوانین مسئولیت را برای پوشش آسیب‌های ناشی از محصولات عصر دیجیتال، از جمله سیستم‌های هوش مصنوعی، مدرن‌سازی می‌کند. این دستورالعمل با روشن ساختن مسئولیت در قبال آسیب‌های ناشی از نقص در نرم‌افزارها و سیستم‌های هوش مصنوعی و تسهیل بار اثبات برای قربانیان، به دنبال آن است که اطمینان حاصل شود بیماران در صورت آسیب دیدن توسط یک ابزار هوش مصنوعی معیوب، غرامت دریافت می‌کنند و شفافیت در زنجیره مسئولیت افزایش یابد.
• ۲.۵. فضای داده‌های سلامت اروپا (EHDS) که با هدف دوگانه تسهیل استفاده اولیه (مراقبت‌های بهداشتی فرامرزی برای شهروندان) و استفاده ثانویه (تحقیق، نوآوری و سیاست‌گذاری) از داده‌های سلامت طراحی شده است. این چارچوب برای هوش مصنوعی اهمیت ویژه‌ای دارد، زیرا با ترویج دسترسی ایمن و استاندارد به مجموعه داده‌های باکیفیت بالا، می‌تواند به آموزش، اعتبارسنجی و نظارت بر مدل‌های هوش مصنوعی کمک کرده و نوآوری مسئولانه را در سراسر اتحادیه اروپا تسریع بخشد.

۳. تحلیل چالش‌های کلیدی در استقرار هوش مصنوعی

در حالی که چارچوب نظارتی اتحادیه اروپا با هدف ایجاد شفافیت و ایمنی طراحی شده، اجرای آن در عمل موانع عملی قابل توجهی برای توسعه‌دهندگان، بیمارستان‌ها و متخصصان مراقبت‌های بهداشتی ایجاد می‌کند. این چالش‌ها از مسائل فنی و داده‌ای گرفته تا موانع حقوقی، سازمانی و فرهنگی را در بر می‌گیرند و سرعت پذیرش نوآوری‌های هوش مصنوعی را کاهش می‌دهند. با این حال، این چالش‌ها غیرقابل حل نیستند و همانطور که در بخش بعدی نشان داده خواهد شد، استراتژی‌های مؤثری برای غلبه بر آن‌ها در حال شکل‌گیری است.

۳.۱. چالش‌های فناورانه و داده‌ای

موانع اساسی در سطح داده و زیرساخت، توانایی نظام‌های بهداشتی برای بهره‌برداری از پتانسیل هوش مصنوعی را محدود می‌کند.

• ناهمگونی داده‌ها و فقدان قابلیت همکاری: تفاوت در فرمت‌های داده (مانند JSON در مقابل HL7 FHIR) و وجود سیستم‌های اطلاعاتی مجزا و ناسازگار (مانند سوابق الکترونیکی سلامت یا EHR) مانع یکپارچه‌سازی روان داده‌ها می‌شود. این امر، آموزش مدل‌های هوش مصنوعی بر روی مجموعه داده‌های بزرگ و متنوع و همچنین مقیاس‌پذیری راه‌حل‌ها در بیمارستان‌های مختلف را مختل می‌کند.
• زیرساخت فناوری اطلاعات منسوخ: بسیاری از بیمارستان‌ها، به ویژه در مناطق کمتر توسعه‌یافته، فاقد قدرت محاسباتی، ظرفیت ذخیره‌سازی و قابلیت‌های شبکه‌ای لازم برای استقرار و اجرای سیستم‌های هوش مصنوعی پیشرفته هستند.
• تغییرپذیری عملکرد و اعتبارسنجی محلی: عملکرد یک مدل هوش مصنوعی ممکن است در محیط‌های بالینی مختلف به دلیل تفاوت در جمعیت بیماران، تجهیزات و پروتکل‌ها، متفاوت باشد. فقدان شواهد در دنیای واقعی و معیارهای استاندارد برای آزمایش و اعتبارسنجی محلی عملکرد هوش مصنوعی، اعتماد به این ابزارها را دشوار می‌سازد.
• شفافیت و توضیح‌پذیری: بسیاری از مدل‌های هوش مصنوعی، به ویژه مدل‌های یادگیری عمیق، به عنوان «جعبه سیاه» عمل می‌کنند. دشواری در درک منطق تصمیم‌گیری این سیستم‌ها باعث می‌شود پزشکان در اعتماد به خروجی‌های آن‌ها، به ویژه در تصمیم‌گیری‌های حیاتی بالینی، محتاط باشند.

۳.۲. چالش‌های حقوقی و نظارتی

پایش و ارزیابی اکوسیستم پیچیده مقررات اتحادیه اروپا، خود به یک چالش بزرگ برای ذی‌نفعان، به ویژه سازمان‌های بهداشتی، تبدیل شده است.

• مدیریت پیچیدگی‌های نظارتی: ذی‌نفعان، به‌ویژه بیمارستان‌ها و توسعه‌دهندگان کوچک، در درک و رعایت الزامات هم‌پوشان و گاه متناقض مقرراتی مانند AIA، MDR و GDPR با دشواری مواجه هستند. این پیچیدگی می‌تواند نوآوری را کند کرده و بار انطباق را افزایش دهد.
• نگرانی‌های امنیت و حریم خصوصی داده‌ها: استفاده از داده‌های حساس سلامت، به ویژه در راه‌حل‌های ابری، خطرات قابل توجهی از جمله نقض داده‌ها و حملات سایبری را به همراه دارد. تضمین انطباق قوی با GDPR و حفاظت از حریم خصوصی بیماران یک نگرانی اصلی است.
• عدم شفافیت در مسئولیت و پاسخگویی: علی‌رغم وجود دستورالعمل مسئولیت محصول (PLD)، هنوز نگرانی‌هایی در میان متخصصان مراقبت‌های بهداشتی و بیمارستان‌ها در مورد اینکه چه کسی مسئول خطاهای ناشی از هوش مصنوعی است—توسعه‌دهنده، بیمارستان یا پزشک—وجود دارد. این ابهام، پذیرش ابزارهای هوش مصنوعی را با تردید مواجه می‌کند.

۳.۳. چالش‌های سازمانی و تجاری

موانع ساختاری در سطح سازمانی و تجاری، حتی با وجود فناوری مناسب و انطباق نظارتی، می‌توانند استقرار موفق هوش مصنوعی را مختل کنند.

• محدودیت‌های مالی: فقدان مدل‌های بازپرداخت و تأمین مالی پایدار، مانع اصلی سرمایه‌گذاری در مقیاس بزرگ شده و توجیه اقتصادی برای بیمارستان‌ها را دشوار می‌سازد. هزینه‌های بالای استقرار، یکپارچه‌سازی و نگهداری سیستم‌های هوش مصنوعی این چالش را تشدید می‌کند.
• فقدان جهت‌گیری راهبردی: در بسیاری از سازمان‌های بهداشتی، یک استراتژی هوش مصنوعی جامع و از بالا به پایین وجود ندارد. این امر منجر به تلاش‌های پراکنده، تخصیص ضعیف منابع و عدم همسویی پروژه‌های هوش مصنوعی با اهداف کلی سازمان می‌شود.
• مشارکت ناکافی کاربر نهایی: ابزارهای هوش مصنوعی اغلب بدون ورودی کافی از سوی پزشکان و سایر کاربران نهایی توسعه می‌یابند. این امر منجر به ابزارهایی می‌شود که با گردش کار بالینی موجود یکپارچه نیستند و در نتیجه با مقاومت کاربران و پذیرش پایین مواجه می‌شوند.

۳.۴. چالش‌های اجتماعی و فرهنگی

موانع فرهنگی و اجتماعی، از جمله فقدان اعتماد و شکاف‌های مهارتی، پایه‌های پذیرش گسترده فناوری‌های جدید را تضعیف می‌کنند.

• فقدان اعتماد: پزشکان و بیماران نسبت به دقت، سوگیری‌های احتمالی و قابلیت اطمینان سیستم‌های هوش مصنوعی تردید دارند. نگرانی در مورد از بین رفتن «لمس انسانی» در مراقبت‌های بهداشتی و جایگزینی قضاوت بالینی با الگوریتم‌ها، یک مانع فرهنگی مهم است.
• سواد سلامت دیجیتال پایین: بسیاری از متخصصان مراقبت‌های بهداشتی آموزش کافی برای استفاده، ارزیابی و تفسیر خروجی‌های ابزارهای هوش مصنوعی را ندیده‌اند. این شکاف مهارتی، استفاده مؤثر از این فناوری‌ها را محدود می‌کند و بیماران را نیز از درک کامل نقش هوش مصنوعی در مراقبت‌های خود باز می‌دارد.

۴. شتاب‌دهنده‌های استقرار مسئولانه هوش مصنوعی

برای غلبه بر موانع ذکر شده، مجموعه‌ای از شتاب‌دهنده‌های راهبردی در حال ظهور هستند که مستقیماً به چالش‌های فناورانه، حقوقی، سازمانی و فرهنگی پاسخ می‌دهند. این شتاب‌دهنده‌ها که توسط سازمان‌های پیشرو به کار گرفته شده‌اند، اهرم‌های سیاستی بالقوه و الگوهای موفق قابل تعمیمی را برای تسهیل استقرار ایمن و مؤثر هوش مصنوعی ارائه می‌دهند. این راهکارها به حوزه‌هایی اشاره دارند که اقدامات سیاستی هدفمند می‌تواند تأثیر مثبت قابل توجهی داشته باشد.

۴.۱. شتاب‌دهنده‌های فناورانه و داده‌ای

برای غلبه بر موانع فنی، تمرکز راهبردی بر استانداردسازی داده‌ها، اعتبارسنجی قوی و نوسازی زیرساخت‌ها ضروری است.

• ترویج استانداردسازی داده‌ها: پذیرش و اجرای استانداردهای بین‌المللی داده مانند DICOM برای تصویربرداری، FHIR برای تبادل داده‌های سلامت و OMOP CDM برای داده‌های مشاهده‌ای، قابلیت همکاری بین سیستم‌ها را به طور چشمگیری افزایش می‌دهد و زمینه را برای توسعه و استقرار مقیاس‌پذیر هوش مصنوعی فراهم می‌کند.
• ایجاد آزمایشگاه‌های تضمین کیفیت: ایجاد آزمایشگاه‌های داخلی یا همکاری با مراکز مستقل برای آزمایش و اعتبارسنجی عملکرد محلی ابزارهای هوش مصنوعی قبل از استقرار گسترده. استفاده از ابزارهایی مانند برچسب‌های «حقایق مدل» (Model Facts) که اطلاعات کلیدی در مورد داده‌های آموزشی و عملکرد مدل ارائه می‌دهند، می‌تواند به این فرآیند کمک کند.
• مدرن‌سازی زیرساخت فناوری اطلاعات: سرمایه‌گذاری استراتژیک در زیرساخت‌های مقیاس‌پذیر مانند رایانش ابری و محاسبات با عملکرد بالا (HPC) به بیمارستان‌ها این امکان را می‌دهد که قدرت محاسباتی و ظرفیت ذخیره‌سازی لازم برای پشتیبانی از برنامه‌های کاربردی هوش مصنوعی را بدون نیاز به سرمایه‌گذاری‌های سنگین اولیه فراهم کنند.

۴.۲. شتاب‌دهنده‌های حقوقی و نظارتی

ایجاد ساختارهای حاکمیتی داخلی و شفافیت قراردادی می‌تواند به سازمان‌ها در پیمایش چشم‌انداز پیچیده نظارتی کمک کند.

• کمیته‌های حاکمیت داخلی: تشکیل کمیته‌های بین‌رشته‌ای متشکل از متخصصان بالینی، فناوری اطلاعات، حقوقی و انطباق در بیمارستان‌ها. این کمیته‌ها می‌توانند بر فرآیندهای ارزیابی، استقرار و نظارت بر ابزارهای هوش مصنوعی نظارت کرده و انطباق با مقررات متعدد را تضمین کنند.
• چارچوب‌های قوی حاکمیت داده: اجرای پروتکل‌های واضح و مستند برای ذخیره‌سازی، دسترسی، رمزگذاری و مدیریت رضایت داده‌ها مطابق با GDPR. این امر نه تنها انطباق را تضمین می‌کند، بلکه اعتماد بیماران و کارکنان را نیز افزایش می‌دهد.
• توافق‌نامه‌های قراردادی شفاف: استفاده از قراردادهای دقیق با توسعه‌دهندگان هوش مصنوعی که شامل بندهای جبران خسارت برای روشن شدن مسئولیت در قبال خطاهای احتمالی است. این امر به کاهش ابهام در مورد مسئولیت کمک کرده و از ارائه‌دهندگان مراقبت‌های بهداشتی محافظت می‌کند.

۴.۳. شتاب‌دهنده‌های سازمانی و تجاری

یک رویکرد استراتژیک از بالا به پایین، همراه با مشارکت کاربران و مدل‌های مالی پایدار، برای استقرار موفقیت‌آمیز ضروری است.

• توسعه مدل‌های تأمین مالی و بازپرداخت: بررسی و اتخاذ مدل‌های تأمین مالی نوآورانه، مانند مشارکت‌های دولتی-خصوصی، مانند آزمایشگاه هوش مصنوعی NHS در بریتانیا که الگویی برای سرمایه‌گذاری عمومی هدفمند ارائه می‌دهد، یا ایجاد چارچوب‌های بازپرداخت ملی برای ابزارهای هوش مصنوعی تأییدشده (مانند ژاپن)، که موانع مالی را کاهش می‌دهد.
• انتصاب «قهرمانان هوش مصنوعی» و مشارکت کاربران نهایی: شناسایی و توانمندسازی پزشکان و متخصصان معتبر به عنوان «قهرمانان هوش مصنوعی» برای حمایت از پذیرش فناوری. همچنین، مشارکت فعال کاربران نهایی در فرآیند طراحی مشترک، تضمین می‌کند که ابزارها با نیازها و گردش کار واقعی بالینی همسو هستند.
• اجرای یک استراتژی هوش مصنوعی شفاف: توسعه و اجرای یک نقشه راه نهادی روشن و از بالا به پایین برای پذیرش هوش مصنوعی، مانند نقشه راه مایو کلینیک در آمریکا. این استراتژی باید اهداف، اولویت‌ها، تخصیص منابع و معیارهای موفقیت را مشخص کند تا از تلاش‌های پراکنده جلوگیری شود.

۴.۴. شتاب‌دهنده‌های اجتماعی و فرهنگی

ایجاد اعتماد و ارتقاء مهارت‌ها، پایه‌های فرهنگی لازم برای پذیرش گسترده و مسئولانه هوش مصنوعی هستند.

• اعتمادسازی از طریق ارتباطات: برقراری ارتباطات شفاف و مستمر با کارکنان و بیماران در مورد مزایا، خطرات و محدودیت‌های ابزارهای هوش مصنوعی. به اشتراک گذاشتن شواهد موفقیت و درس‌های آموخته‌شده می‌تواند به کاهش شک و تردید و ایجاد اعتماد کمک کند.
• سرمایه‌گذاری در سواد سلامت دیجیتال: توسعه و ارائه برنامه‌های آموزشی جامع، بورسیه‌های تخصصی هوش مصنوعی و به‌روزرسانی برنامه‌های درسی پزشکی برای ارتقاء مهارت نیروی کار. این سرمایه‌گذاری تضمین می‌کند که متخصصان مراقبت‌های بهداشتی می‌توانند به طور مؤثر و مسئولانه از ابزارهای هوش مصنوعی استفاده کنند.

۵. نتیجه‌گیری و ملاحظات سیاستی برای ایران

تحلیل دقیق چشم‌انداز نظارتی اتحادیه اروپا برای هوش مصنوعی در حوزه سلامت، مجموعه‌ای ارزشمند از درس‌ها و راهکارهای عملی را در اختیار ایران قرار می‌دهد. این گزارش نشان داد که در حالی که چارچوب‌های قانونی مانند قانون هوش مصنوعی، MDR/IVDR و GDPR پایه‌ای محکم برای حاکمیت مسئولانه فراهم می‌کنند، چالش‌های کلیدی مانند عدم هماهنگی داده‌ها، محدودیت‌های مالی و شکاف در دانش فنی موانع جدی برای استقرار هوش مصنوعی در عمل ایجاد می‌کنند.

برای ایران، این تحلیل بیش از یک مطالعه موردی است و می‌تواند به عنوان یک نقشه راه عمل کند. برای غلبه بر این موانع، ایران می‌تواند با الهام از شتاب‌دهنده‌های موفق اروپا، اقداماتی هدفمند را آغاز کند. این اقدامات شامل ترویج استانداردسازی داده‌های سلامت، ایجاد کمیته‌های حاکمیت چندرشته‌ای، سرمایه‌گذاری هدفمند در آموزش نیروی کار و توسعه مدل‌های پایدار مالی و بازپرداخت برای راهکارهای هوش مصنوعی است. در نهایت، موفقیت در این عرصه تنها به تدوین مقررات قوی بستگی ندارد، بلکه به ایجاد یک اکوسیستم اجرایی هماهنگ بستگی دارد که در آن نوآوری‌های فناورانه با ظرفیت‌سازی نهادی و تعهد سیاسی همگام شود. با بهره‌گیری از درس‌های اروپا، ایران می‌تواند نه تنها از خطاهای احتمالی جلوگیری کند، بلکه فرصت‌های منحصر به فرد خود را برای توسعه بومی هوش مصنوعی در حوزه سلامت به حداکثر برساند.

آکادمی زیوست چیست؟

آکادمی زیوست یک رسانه و پلتفرم تحلیلی است که با تمرکز بر شواهد موجود، فرصت‌ها و چالش‌های واقعی را در تقاطع دانش، فناوری و سلامت پیشگیرانه بررسی می‌کند. ما با تحلیل مستمر روندهای فناوری، سیگنال‌های مهم را از هیاهوی رسانه‌ای جدا می‌کنیم. سپس حاصل این تحلیل را در قالب مقالات عمیق و چارچوب‌های قابل فهم ارائه می‌دهیم تا به درک بهتر «سلامت دیجیتال» و «نوآوری‌های سلامت پیشگیرانه» کمک کنیم.  تمرکز ما بر ستون‌های تحول‌آفرین فرداست: از رمزگشایی هوش مصنوعی و یادگیری ماشین در تشخیص زودهنگام بیماری‌ها گرفته تا تحلیل فرصت‌های سرمایه‌گذاری و بازار سلامت پیشگیرانه در ایران و همینطور بررسی فضای رگولاتوری و سیاست‌گذاری‌هایی که مسیر نوآوری را هموار یا مسدود می‌کنند.