خروجی هوش مصنوعی بدون تأیید کارشناس نباید مبنای تصمیم باشد

به گزارش سیتنا، سیدمحسن میرصدری نایب‌رئیس کمیسیون کسب‌وکارهای نوین و دانش‌بنیان اتاق ایران و عضو مجمع تشکل‌های دانش‌بنیان در گفت‌وگو با اتاق ایران آنلاین با تاکید بر اهمیت روزافزون افزایش بهره‌وری انرژی گفت: روز جهانی استاندارد در سال ۲۰۲۶ با عنوان «چشم‌اندازی مشترک برای جهانی بهتر» و تمرکز بر هدف هفتم توسعه پایدار، «انرژی پاک و مقرون‌به‌صرفه»، گرامی داشته می‌شود.

او ادامه داد: برای ما که با نیاز روزافزون به انرژی و ضرورت بهبود بهره‌وری روبه‌رو هستیم، این موضوع معنایی ملموس دارد: چگونه می‌توان انرژی را با هزینه مناسب و اطمینان بیشتر در اختیار مردم و بنگاه‌ها قرار داد؟ بخشی از پاسخ در توسعه فناوری است و بخش دیگر در اعتماد به آن.
نصب پنل خورشیدی، استفاده از اینورترهای پیشرفته یا هوشمندسازی شبکه، زمانی به نتیجه می‌رسد که تجهیزات درست کار کنند و عملکردشان با شواهد معتبر تأیید شود. 

استانداردها، الزامات را روشن می‌کنند و ارزیابی انطباق، از طریق فعالیت‌هایی مانند آزمون، بازرسی و صدور گواهی، شواهدی درباره برآورده‌شدن این الزامات فراهم می‌کند.

میرصدری گفت: هوش مصنوعی می‌تواند به کاهش اتلاف انرژی، تشخیص زودهنگام خرابی و بهبود خدمات فنی کمک کند.
اما همان پرسشی که درباره تجهیزات مطرح است، درباره این فناوری نیز وجود دارد: از کجا بدانیم خروجی آن قابل اعتماد است؟ رابطه هوش مصنوعی و ارزیابی انطباق دو وجه دارد. 

در یک وجه، هوش مصنوعی ابزار کار آزمایشگاه‌ها و نهادهای بازرسی و صدور گواهی است؛ در وجه دیگر، محصول یا سامانه هوشمند موضوع ارزیابی قرار می‌گیرد. هر دو مسیر برای شرکت‌های دانش‌بنیان فرصت اقتصادی دارند، ولی الزاماتشان یکسان نیست.

از کاربردهای روزمره تا تصمیم‌های حساس

او به کاربردهای متنوع هوش مصنوعی در مشاغل تخصصی نیز اشاره کرد و گفت: در یک آزمایشگاه، بخشی از وقت کارشناسان صرف بررسی مدارک، تطبیق اطلاعات و تحلیل داده‌ها می‌شود. هوش مصنوعی می‌تواند نقص پرونده را پیدا کند، اختلاف نسخه‌های مدارک را نشان دهد یا پیش‌نویس گزارش را آماده کند. این کمک، اگر درست طراحی شود، فرصت بیشتری برای کار تخصصی در اختیار کارشناسان می‌گذارد.

وی افزود: در بازرسی تجهیزات نیز کاربردهای روشنی وجود دارد. بطور مثال، الگوریتم‌های بینایی ماشین می‌توانند در تصاویر حرارتی تجهیزات یا تصاویر الکترولومینانس پنل‌های خورشیدی، نشانه‌های احتمالی خرابی را مشخص کنند. البته شناسایی یک نشانه با تصمیم درباره پذیرش یا رد محصول تفاوت دارد. این تصمیم باید بر معیارهای فنی، الزامات قرارداد و قواعد مشخص استوار باشد.

پیش از استفاده، باید عملکرد ابزار روی نمونه‌هایی که در آموزش ندیده و در شرایط واقعی سنجیده شود. باید بدانیم چند عیب مهم را تشخیص نمی‌دهد و چند محصول سالم را معیوب اعلام می‌کند. ارزش سرمایه‌گذاری را نیز باید با نتیجه سنجید: زمان بررسی چقدر کاهش یافته، چه نوع خطاهایی کمتر شده و کیفیت خدمات چه تغییری کرده است؟

کشورها چگونه اعتماد به هوش مصنوعی را تقویت می‌کنند

نایب‌رئیس کمیسیون دانش‌بنیان اتاق ایران تشریح کرد: کشورها مسیرهای متفاوتی در پیش گرفته‌اند. این اقدامات دامنه یکسانی ندارند؛ از مقررات الزام‌آور تا راهنماهای داوطلبانه و ابزارهای آزمون را در بر می‌گیرند.

در اتحادیه اروپا، قانون هوش مصنوعی رویکردی مبتنی بر ریسک دارد. برای سامانه‌های پرخطر، الزاماتی مانند کیفیت داده، مستندسازی، نظارت انسانی و ارزیابی انطباق پیش‌بینی شده است. اجرای الزامات مرحله‌ای است و مسیر ارزیابی به نوع سامانه و مقررات مربوط بستگی دارد؛ در برخی موارد کنترل داخلی و در برخی دیگر مشارکت نهاد ثالث پیش‌بینی شده است.

او درباره تجربه آمریکا در به‌کارگیری هوش مصنوعی در حوزه استاندارد و فناوری گفت: در آمریکا، مؤسسه ملی استاندارد و فناوری، NIST، چارچوب داوطلبانه مدیریت ریسک هوش مصنوعی را ارائه کرده است. این چارچوب به سازمان‌ها کمک می‌کند خطرها را بشناسند، عملکرد سامانه را بسنجند و مسئولیت مدیریت آن‌ها را مشخص کنند. استفاده از آن، به‌خودی‌خود به معنای دریافت گواهی انطباق محصول نیست.

میرصدری به تجربه چین نیز اشاره کرد: در چین، برای خدمات هوش مصنوعی مولد عرضه‌شده به عموم در داخل کشور، مقرراتی درباره منابع قانونی داده، کیفیت داده‌های آموزش، حفاظت از اطلاعات شخصی و مسئولیت ارائه‌دهنده وضع شده است. کاربردهای داخلی که چنین خدمات عمومی ارائه نمی‌کنند، در دامنه همین مقررات قرار نمی‌گیرند؛ هرچند ممکن است مشمول سایر قوانین باشند.

از این تجربه‌ها می‌توان نتیجه گرفت که اعتماد به هوش مصنوعی به شناخت کاربرد، سنجش عملکرد و روشن‌بودن مسئولیت‌ها وابسته است.

موضوع کاربرد هوش مصنوعی در ارزیابی انطباق، در اجلاس جهانی IECEx 2026 نیز مطرح شد

عضو مجمع تشکل‌های دانش‌بنیان عنوان کرد: در نشست‌های سالانه IECExکه از ۱۴ تا ۱۸ سپتامبر ۲۰۲۶ در پکن برگزار شد، مسئله استفاده از هوش مصنوعی در تهیه مدارک و گزارش‌های فنی نیز مورد توجه قرار گرفت. لازم بذکر است که IECEx نظام بین‌المللی ارزیابی انطباق مرتبط با تجهیزات و فعالیت‌های محیط‌های مستعد انفجار است؛ حوزه‌ای که خطای فنی در آن می‌تواند پیامدهای جدی برای ایمنی داشته باشد.

او گفت: در جریان مباحث، پرسشی مطرح شد که به نظر من فراتر از این حوزه اهمیت داشت: اگر تولیدکننده، آزمایشگاه و نهاد صدور گواهی، هر سه از مدل‌های زبانی استفاده کنند، چگونه اطمینان پیدا کنیم که هر مرحله، اطلاعات را با شواهد اصلی بررسی می‌کند و خطای مرحله قبل را صرفاً بازتولید نمی‌کند؟

وی افزود: ممکن است تفسیر نادرستی از استاندارد یا ادعایی بدون پشتوانه، بدون مراجعه به متن معتبر استاندارد و داده‌های اصلی آزمون، از یک مرحله به مرحله بعد منتقل شود. تکرار اطلاعات در چند سند، آن‌ها را معتبر نمی‌کند؛ حتی اگر متن‌ها حرفه‌ای به نظر برسند گزارش آزمون باید به آزمون انجام‌شده و داده‌های ثبت‌شده متکی باشد.

برداشت من از بحث این بود که کمک‌گرفتن برای نگارش و تحلیل، باید با کنترل فنی خروجی توسط انسان همراه باشد. لذا مسئولیت نفرات در نهادهای ارزیابی همچنان و با قدرت برقرار است و منبع اطلاعات، مسیر بررسی و مسئول تأیید نتیجه را انسان مشخص میکند.

فرصتی برای بنگاه‌های ایرانی

میرصدری در پایان به نقش‌آفرینی اتاق در بهبود مشارکت بخش خصوصی در تدوین استانداردها نیز اشاره و اینگونه جمع‌بندی کرد: در ایران می‌توان همکاری را از مسئله‌های مشخص آغاز کرد: تحلیل تصاویر بازرسی، کنترل مدارک یا شناسایی زودهنگام خرابی تجهیزات. شرکت‌های دانش‌بنیان به داده معتبر و شناخت نیاز صنعت احتیاج دارند و آزمایشگاه‌ها به ابزارهایی که کیفیت و بهره‌وری را بهبود دهند.

او گفت: در کنار توسعه این ابزارها، خدمات تخصصی آزمون و ارزیابی محصولات هوشمند نیز می‌تواند بازار تازه‌ای ایجاد کند. اتاق بازرگانی، صنایع، معادن و کشاورزی می‌تواند همکاری میان این گروه‌ها، اجرای پروژه‌های مشترک و مشارکت بخش خصوصی در تدوین استانداردها را تسهیل کند.

بر اساس اظهارات عضو هیات نمایندگان اتاق ایران انرژی پاک و مقرون‌به‌صرفه به فناوری کارآمد و تجهیزات قابل اعتماد نیاز دارد. هوش مصنوعی، با استفاده سنجیده و ارزیابی معتبر، می‌تواند به تحقق این هدف و رشد اقتصاد دانش‌بنیان کمک کند.

انتهای پیام