با این وجود، توجه به یک نکته اساسی در توسعه کاربری هوش مصنوعی در نظام اجرایی کشور ضرورت دارد: «استقبال سازمان‌ها از کاربرد هوش مصنوعی در اجرای فرآیندهای اداری، اگرچه ضروری و بسیار مفید است ولی اگر برخی احتیاط ها مورد توجه قرار نگیرد، اهداف سازمانی محقق نخواهند شد.»

به‌نظر می‌رسد با توسعه کاربری این فناوری پیشرفته باید همکاری میان انسان و هوش مصنوعی در سازمان‌ها باز طراحی و حدود اختیارات برای حفظ فرصت یادگیری کارکنان و ایجاد سازو کارهای روشن پاسخ‌گویی تعیین شود.

در واقع پیش از آنکه اختیار اقدام به یک عامل هوشمند واگذار شود، باید مشخص شود این عامل به چه داده‌هایی دسترسی دارد، تا چه سطحی می‌تواند به‌صورت مستقل اقدام کند، در چه نقاطی نیازمند تأیید انسان است و در چه شرایطی باید فعالیت آن متوقف شود.

یافته‌های جدید پژوهشی نشان می‌دهد، این فناوری در برخی وظایف می‌تواند به افزایش بهره‌وری و تسهیل دسترسی کارکنان کم‌تجربه به دانش حرفه‌ای کمک کند، اما نتیجه این همکاری به نوع وظیفه، قابلیت مدل و نحوه تقسیم کار میان انسان و هوش مصنوعی وابسته است و صرف کنار هم قرار گرفتن انسان و عامل هوشمند، به‌تنهایی عملکرد بهتر را تضمین نمی‌کند. به همین دلیل ضروری است قبل از کاربری هوش مصنوعی در ادارات، ارزیابی مستقلی از خروجی‌های تولیدشده آنها داشته باشیم. سازمان‌ها باید در کنار سرعت انجام کار، شاخص‌هایی مانند خطاهای پرهزینه، میزان بازکاری، عدالت در تصمیم‌ها و حفظ توانایی قضاوت مستقل کارکنان را نیز مورد سنجش قرار دهند.در اجرای این راهبرد نقش واحدهای منابع انسانی برای بازطراحی این همکاری، محوری است.

از سوی دیگر، برنامه‌های توسعه کارکنان نیز نباید صرفاً بر آموزش نحوه استفاده از ابزارهای هوش مصنوعی متمرکز باشد، بلکه باید فرصت تمرین مستقل، تشخیص خطا و توضیح استدلال را برای کارکنان حفظ کند تا توانمندی حرفه‌ای و قدرت قضاوت انسانی در فرایندهای سازمانی تضعیف نشود. پاسخ‌گویی معلوم به نیازها، فرصت یادگیری و سلامت مهارت، مرز اختیار انسان و فناوری، ارزیابی اثر و نمایندگی هوش مصنوعی به جای کارکنان اجزای این چارچوب هستند.

این چارچوب زمانی می‌تواند در سازمان‌ها به‌صورت عملیاتی مورد استفاده قرار گیرد که به تصمیم‌های مشخص و قابل‌پیگیری، از جمله تعیین مالک پاسخ‌گو، سطح دسترسی‌های مجاز، معیار پذیرش خروجی و مسیر رسیدگی به اعتراض و خطا منجر شود.

به همین دلیل، به تمام ادارات متقاضی استفاده از هوش مصنوعی توصیه می‌شود هر عامل هوشمند پیش از دریافت اختیار اقدام، دارای یک «شناسنامه» مشخص باشد؛ شناسنامه‌ای که مأموریت عامل، مسئول پاسخ‌گو، حدود دسترسی، شرایط تأیید و توقف فعالیت و زمان بازبینی عملکرد آن را تعیین کند. چنین رویکردی می‌تواند امکان بررسی سناریوهای مختلف سیاستی را پیش از اجرای آن‌ها در ادارات فراهم کند. 

در مجموع، استفاده از هوش مصنوعی برای بهبود عملکرد سازمانی، نباید نیروی انسانی را از اجرای دقیق وظایف خود منحرف سازد.