کاظمی‌فرد: آینده هوش مصنوعی در دستگاه قضایی ایران/ تحول در خدمات حقوقی یا تهدید جایگاه انسانی؟

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه با اشاره به فرصت‌ها و تهدید‌های هوش مصنوعی در نظام حقوق و قضا، گفت: این فناوری، در کنار پیشبرد عدالت، همچنان نیازمند نظارت‌های اخلاقی و قانونی جدی است.

کد خبر: ۷۴۷۳۱۱

تاریخ: ۲۸ ارديبهشت ۱۴۰۴ - ۱۱:۰۱

به گزارش دفاع‌پرس از خراسان رضوی، در دومین پیش‌نشست همایش ملی علوم انسانی و اسلامی دیجیتال که با محوریت «دستیار هوش مصنوعی» در مرکز مدیریت این حوزه برگزار شد، «محمد کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه، به تشریح ابعاد و تأثیرات متحول‌کننده هوش مصنوعی بر عرصه حقوق، قضاوت و علوم انسانی پرداخت.

وی با مرور تاریخی بر مباحث فلسفی و علمی پیرامون هوش مصنوعی، از تأثیرات این فناوری بر جوامع بشری سخن گفت، و با اشاره به موفقیت‌های شگفت‌انگیز ابزار‌هایی نظیر «چت‌جی‌پی‌تی» در بازتولید و تحلیل داده‌ها اظهار داشت: سوال بنیادی درباره اینکه آیا هوش مصنوعی جایگزین انسان خواهد شد یا نه، بار دیگر احیا شده است، همین ابزار‌ها نشان داده‌اند که می‌توانند انباشت دانش انسانی را، که در طول سال‌ها به دست آمده است، با سرعت و دقت چشم‌گیر در قالبی کاربردی ارائه کنند.

وی ادامه داد: هوش مصنوعی با قدرت در تحلیل و تولید داده‌های متنی، بسیاری از مشاغل مبتنی بر دانش متنی مانند وکالت، پزشکی و قضاوت را متحول کرده است. به‌ویژه در زبان‌های بین‌المللی مانند انگلیسی، این ابزار‌ها بسیار دقیق عمل می‌کنند و حتی می‌توانند چالش‌برانگیزترین پرسش‌ها را با دقت بالا پاسخ دهند.

جایگاه هوش مصنوعی در دستگاه قضایی؛ فرصت یا تهدید؟

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه در ادامه سخنان خود، ضمن تأکید بر فرصت‌ها و مخاطرات هوش مصنوعی، به اهمیت درک و بهره‌گیری هوشمندانه از این فناوری در نظام قضایی اشاره کرد و افزود: هوش مصنوعی به‌سرعت در حال تبدیل شدن به یکی از ابزار‌های کلیدی در نظام حقوق و قضا است و این ابزار‌ها می‌توانند خروجی‌هایی مبتنی بر تحلیل متون حقوقی ارائه دهند و در حوزه‌هایی مانند تولید لوایح، اعتبارسنجی افراد، ارجاع هوشمند پرونده‌ها و حتی پیشنهاد رأی به قضات مؤثر باشند.

کاظمی‌فرد تصریح کرد: توانایی‌های این فناوری به قدری پیشرفته است که در بسیاری از موارد می‌تواند جایگاه وکیل را اشغال کند یا حتی به‌عنوان مشاور قضات عمل کند. زمانی که انسان شاهد است هوش مصنوعی می‌تواند با دقتی مثال‌زدنی پاسخ‌های پیچیده حقوقی ارائه دهد، این پرسش مطرح می‌شود که تا چه حد امکان بهینه‌سازی روند‌های قضایی با این فناوری وجود دارد. البته نکته اینجاست که این ابزار‌ها صرفاً تهدید نبوده و می‌توانند به‌عنوان فرصت‌های طلایی نیز قلمداد شوند.

امکانات دستیار هوش مصنوعی در سیستم قضایی

وی با اشاره به امکانات بالقوه دستیار هوش مصنوعی در نظام قضایی ایران بیان داشت: هوش مصنوعی می‌تواند ارجاع پرونده‌ها به شعب و کارشناسان مربوطه را بر اساس تحلیل داده‌ها انجام دهد، نقش مشاور هوشمند را برای قضات و حتی مردم ایفا نماید که این مشاوره می‌تواند شامل تحلیل پرونده‌ها، ارائه قوانین مرتبط، پیشنهاد رای و خلاصه‌سازی پرونده‌ها باشد. همچنین با هوش مصنوعی امکان بررسی سوابق پرونده‌ای و استخراج نکات کلیدی به منظور مدیریت بهتر و کارآمدتر حجم بالای داده‌های حقوقی فراهم می‌شود.

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه تأکید کرد: با ورود این قابلیت‌ها، قضات می‌توانند به جای صرف وقت بر پرونده‌های سبک‌تر، بر روی دعاوی حساس‌تر و پیچیده‌تر تمرکز کنند و در نهایت به افزایش دقت و عدالت در اجرای احکام قضایی کمک گردد.

چالش جانشینی هوش مصنوعی با قضاوت انسانی

کاظمی‌فرد گفت: قضاوت تنها بر اساس متون حقوقی ممکن نیست و عوامل انسانی نظیر وجدان، احساس و قدرت استنباط در تصمیم‌گیری‌ها نقش حیاتی ایفا می‌کنند. بنابراین، هرچند هوش مصنوعی دستیار توانمندی است، اما نمی‌تواند کاملاً جایگزین قاضی شود. به‌ویژه که قضاوت انسانی بسیاری از ظرفیت‌های عاطفی و اخلاقی را در بر می‌گیرد که حتی پیشرفته‌ترین الگوریتم‌های هوش مصنوعی نیز فاقد آن هستند.

وی خاطرنشان کرد: ابزار‌های هوش مصنوعی می‌توانند قضاوت‌های پیچیده را تسهیل کنند، اما در پرونده‌هایی که نیازمند قضاوت فردی و انسانی هستند، همچنان جایگاه قاضی حفظ خواهد شد.

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه به مسأله کیفیت و انسجام داده‌های حقوقی در کشور پرداخت و بیان داشت: موفقیت فناوری هوش مصنوعی کاملاً به کیفیت داده‌های ورودی وابسته است، داده‌های حقوقی در ایران، علی‌رغم اهمیت بالایی که در تصمیم‌گیری‌های قضایی دارند، اغلب ناقص، پراکنده یا به‌درستی دیجیتال‌سازی نشده‌اند و این امر یکی از چالش‌های جدی توسعه سیستم‌های مبتنی بر هوش مصنوعی است.

کاظمی‌فرد عنوان داشت: برخلاف سخت‌افزار‌ها و نرم‌افزار‌ها که عمدتاً از خارج تأمین می‌شوند، داده‌های فارسی و حقوقی می‌توانند به‌عنوان یک مزیت رقابتی جدی عمل کنند و سرمایه‌گذاری در دیجیتال‌سازی قوانین و پرونده‌های حقوقی، تحولی بزرگ در توسعه ابزار‌های هوش مصنوعی مبتنی بر زبان فارسی ایجاد خواهد کرد.

آینده حقوقی و تحول قضایی در سایه هوش مصنوعی

وی با اشاره به جایگاه مهم هوش مصنوعی در برنامه هفتم توسعه کشور و اسناد تحول قضایی، ابراز امیدواری کرد که این فناوری بتواند زمینه تحولی جدی در رویکرد‌های سنتی قضاوت ایجاد کند.

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه تأکید کرد: اگرچه هنوز چالش‌هایی نظیر فقدان زیرساخت‌های داده‌ای و تغییرات مورد نیاز قانونی وجود دارد، اما با بهره‌گیری از ظرفیت داده‌ها و نیروی انسانی متخصص می‌توان به جهشی اساسی در این حوزه دست یافت. هوش مصنوعی نه تنها تهدیدی برای نظام حقوقی محسوب نمی‌شود، بلکه در حقیقت ابزاری کارآمد و حیاتی در مسیر تحقق عدالت و بهبود خدمات دستگاه قضایی کشور است. آینده توسعه این فناوری‌ها بستگی کامل به نحوه تعامل و آمادگی نظام حقوقی برای پذیرش و به کارگیری هوشمندانه آنها دارد.

کاظمی‌فرد به تجربه جهانی در توسعه فناوری‌های حوزه شبکه‌های هوشمند پرداخت و بیان داشت: در حوزه فناوری‌های نوین، به‌ویژه شبکه‌های مجازی، تا پیش از اینکه بستر‌های داخلی نظیر بله و ایتا توسعه یابند، حدود یک دهه از رقبای بین‌المللی مانند واتساپ و تلگرام عقب ماندیم. حال آنکه در حوزه‌هایی نظیر هوش مصنوعی، اگر نتوانیم به‌موقع اقدام کنیم، این عقب‌ماندگی‌ها مجدداً تکرار خواهد شد.

وی افزود: یکی از اولویت‌های مهم فعلی، ساخت مدل‌های زبانی بزرگ (LLM) بومی است، چراکه این مدل‌ها برای پایه‌گذاری بسیاری از فناوری‌های روز دنیا ضروری هستند.

برنامه‌های قوه قضائیه در استفاده از هوش مصنوعی

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه با تأکید بر اهمیت داده‌ها در توسعه هوش مصنوعی تصریح کرد: ما در قوه قضائیه مجموعه‌ای از ۱۱۰ میلیون تصمیم قضائی گمنام‌سازی‌شده را در اختیار داریم که به‌تدریج در اختیار شرکت‌ها برای آموزش الگوریتم‌های هوش مصنوعی قرار می‌گیرد. این مجموعه همچنین شامل نظرات کارشناسی، لوایح و پیش‌نویس‌های قضائی است که می‌توانند زیربنای ایجاد مدل‌های زبانی قدرتمند باشند، لذا این امر می‌تواند یک مزیت رقابتی مهم برای کشور باشد، زیرا بسیاری از شرکت‌های خارجی به چنین داده‌های ارزشمندی برای توسعه فناوری‌های هوش مصنوعی دسترسی ندارند.

کاظمی‌فرد اظهار داشت: نباید نسبت به تهدیدات و چالش‌های همراه با این روند بی‌توجه بود، چراکه مهم‌ترین تهدیدات، مدیریت داده‌های حساس کاربران است.

وی ادامه داد: یکی از کلیدی‌ترین نکاتی که در توسعه هوش مصنوعی قضائی باید مورد توجه قرار گیرد، یادگیری و مدیریت داده‌های حساس است، چراکه این داده‌ها شامل اطلاعاتی محرمانه‌اند و به کارگیری اشتباه آنها می‌تواند منجر به سوءاستفاده‌های گسترده شود.

نقش جهت‌گیری و استانداردسازی در هوش مصنوعی

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه به مسئله جهت‌گیری (Bias) در هوش مصنوعی پرداخت و خاطرنشان کرد: آموزش و تربیت الگوریتم‌های هوش مصنوعی می‌تواند به نتایج متفاوت منجر شود، به‌عنوان مثال، الگوریتمی ممکن است بدون توجه به شرایط، پیشنهاد شکایت قضایی ارائه کند، الگوریتم دیگر صرفاً استفاده از وکیل را پیشنهاد دهد، و الگوریتمی که توسط قوه قضائیه طراحی شده باشد، ابتدا راهکار‌های صلح و گفت‌و‌گو را بررسی کند.

کاظمی‌راد گفت: در مدل‌های هوش مصنوعی داخلی، ما به‌دنبال جهت‌گیری‌هایی هستیم که به عدالت و صلح کمک کنند و از رویکرد‌های صرفاً تجاری در ارائه خدمات فاصله می‌گیریم.

چالش‌های حقوقی، مسئولیت‌ها و تنظیم‌گری هوش مصنوعی

وی با تأکید بر خلأ‌های موجود در تعیین حدود مسئولیت و جایگاه هوش مصنوعی در نظام حقوقی عنوان داشت: هنوز مشخص نیست اگر یک سیستم هوش مصنوعی تصمیم اشتباه بگیرد، مسئولیت این خطا بر عهده چه کسی است؟ برنامه‌نویس؟ سازنده الگوریتم؟ یا نهادی که داده‌ها را ارائه داده؟ لذا تعریف و تدوین دقیق حدود مسئولیت هوش مصنوعی می‌تواند به گسترش استفاده از این فناوری در کشور کمک کند، همان‌طور که در گذشته با تعریف مسئولیت‌های حقوقی شرکت‌ها، تحول بزرگی در صنعت و اقتصاد ایجاد شد.

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه ابراز داشت: حتی در کشور‌های پیشرفته نیز قوانین جامع و شفافی در این زمینه وجود ندارد و این موضوع فرصت مناسبی است تا ایران بتواند از طریق تدوین قوانین مترقی، به الگویی برای سایر کشور‌ها تبدیل شود.

تنظیم‌گری و اخلاق در هوش مصنوعی

کاظمی‌فرد با اشاره به اهمیت استاندارد‌های اخلاقی در هوش مصنوعی یادآور شد: فناوری بدون توجه به اخلاق می‌تواند پیامد‌های خطرناکی به همراه داشته باشد، چراکه ما نمی‌توانیم ابزاری افسارگسیخته داشته باشیم. هوش مصنوعی نیازمند تنظیم‌گری دقیق و ایجاد زیرساخت‌های نظارتی قوی است.

وی همچنین به مسئله اطلاعات جعلی تولیدشده توسط هوش مصنوعی اشاره کرد و هشدار داد: ممکن است در مواردی با متونی مواجه شویم که به‌ظاهر مبتنی بر منابع علمی هستند، اما این منابع وجود خارجی ندارند. این نشان می‌دهد که هوش مصنوعی قدرت جعل اطلاعات پیچیده‌ای را دارد که نیازمند بررسی دقیق و پیوسته است.

اهمیت تدوین قوانین جامع و شفاف

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه ادامه داد: دولت و نهاد‌های مرتبط باید برای تعریف حدود فعالیت‌های هوش مصنوعی، قوانینی جامع و شفاف ایجاد کنند که در عین ایجاد امنیت برای کاربران، فرصت را برای نوآوری نیز فراهم کند.

کاظمی‌فرد تأکید کرد: تدوین قوانینی که بتواند مسئولیت‌پذیری را مشخص کند، باعث می‌شود افراد و شرکت‌ها با اطمینان بیشتری به سمت این فناوری حرکت کنند.

وی با هشدار بر اینکه قوانین محدودکننده می‌توانند اثرات معکوس داشته باشند و مانع از پیشرفت فناوری شوند، گفت: برای مثال، قوانینی که اتحادیه اروپا در زمینه هوش مصنوعی وضع کرده، اگرچه در تلاش است تا هوش مصنوعی را کنترل کند، اما پیچیدگی‌های این قوانین باعث می‌شود افراد جسارت حرکت در این مسیر را نداشته باشند.

چشم‌انداز آینده هوش مصنوعی در ایران

رئیس مرکز آمار و فناوری اطلاعات قوه قضائیه با تأکید بر اینکه ایران می‌تواند با تمرکز بر ظرفیت‌های داخلی خود، به یکی از پیشرو‌های استفاده از هوش مصنوعی در حوزه حقوق و قضا تبدیل شود. گفت: استفاده از داده‌های موجود، تدوین استاندارد‌های اخلاقی، توسعه زیرساخت‌های بومی و هماهنگی میان دستگاه‌های مختلف از عوامل کلیدی موفقیت در این زمینه است.

کاظمی‌فرد در پایان بر ضرورت تعریف مسئولیت‌های قانونی و ایجاد ساختار‌های نظارتی شفاف تأکید کرد و یادآور شد: نبود اینها می‌تواند پیامد‌های جدی برای کشور در پی داشته باشد.

انتهای پیام/