مدیریت استراتژیک هوشمند

مدیریت استراتژیک هوشمند

شفافیت و عدم سوگیری الگوریتمی بر پذیرش سیستم‌های تشخیص تقلب مبتنی بر هوش مصنوعی با میانجی گیری اعتماد با رویکرد معادلات ساختاری

نوع مقاله : مقاله پژوهشی

نویسندگان
پرستو بافقی 1
محمود احمدی شریف 1
مرتضی شفعتی 2
1 گروه مدیریت بازرگانی، واحد شهر قدس، دانشگاه آزاد اسلامی، شهر قدس، ایران
2 استادیار، گروه مدیریت و حسابداری، دانشگاه پیام نور، تهران، ایران
10.87453/bumara.2026.373601.4851
چکیده
در سال‌های اخیر، استفاده از سیستم‌های هوش مصنوعی در حوزه خدمات مالی و بانکی به‌ویژه در زمینه تشخیص تقلب، به‌عنوان یکی از ابزارهای کلیدی در افزایش امنیت و کاهش ریسک مالی مورد توجه قرار گرفته است. با این‌حال، پذیرش این فناوری‌های نوین از سوی کارکنان و مشتریان بانک‌ها مستلزم فراهم‌شدن پیش‌شرط‌هایی همچون، شفافیت عملکرد الگوریتم‌ها و کاهش سوگیری‌های احتمالی آن‌هاست. پژوهش حاضر با هدف بررسی تأثیر شفافیت و عدم سوگیری الگوریتمی بر پذیرش سیستم‌های تشخیص تقلب مبتنی بر هوش مصنوعی با نقش میانجی اعتماد و با بهره‌گیری از رویکرد معادلات ساختاری انجام شد. این پژوهش از لحاظ هدف کاربردی و از نظر روش، توصیفی – همبستگی است. جامعه آماری پژوهش شامل: کارکنان و کارشناسان شعب بانک ملی به تعداد 653 نفر در شهر کرج انتخاب شدند. حداقل حجم نمونه طبق فرمول کوکران 242 نفر برآورد گردید و مورد تجزیهوتحلیل قرار گرفت. در این پژوهش برای گردآوری اطلاعات از پرسشنامه استاندارد استفاده شدهاست. پایایی با استفاده از ضریب الفای کرونباخ مورد بررسی قرار گرفت و روایی صوری و محتوا با نظر استاد راهنما و خبرگان مورد بررسی و تأیید قرار گرفت. همچنین تجزیهوتحلیل دادههای بهدست آمده با استفاده از نرمافزار آماری SPSS و lisrelصورت گرفته است. یافته‌های پژوهش نشان داد که شفافیت الگوریتمی تأثیر مثبت و معناداری بر اعتماد و همچنین بر پذیرش سیستم‌های تشخیص تقلب دارد. علاوه براین، نتایج بیانگر آن‌است‌که عدم سوگیری الگوریتمی نیز به‌طور مستقیم بر سطح اعتماد کارکنان نسبت به سیستم اثرگذار بوده و از این طریق پذیرش فناوری هوش مصنوعی را افزایش می‌دهد. نقش میانجی اعتماد در این رابطه تأیید شد و مشخص گردید که اعتماد به‌عنوان حلقه واسط، شدت اثرگذاری شفافیت و بی‌طرفی الگوریتم‌ها را بر پذیرش سیستم‌های مبتنی بر هوش مصنوعی تقویت می‌کند. بر اساس آزمون سوبل و شاخص‌های برازش مدل، روابط مورد نظر از اعتبار آماری مناسبی برخوردار بودند.
کلیدواژه‌ها
شفافیت
عدم سوگیری الگوریتمی
پذیرش سیستم‌های تشخصیص تقلب مبتنی بر هوش مصنوعی
اعتماد

موضوعات

عنوان مقاله English

Transparency and algorithmic bias on the acceptance of AI-based fraud detection systems with trust mediation using a structural equation approach

نویسندگان English

Parastoo Bafghi 1
Mahmoud Ahmadi Sharif 1
Morteza Shafati 2
1 Department of Business Management, ShQ.C., Islamic Azad University, Shahr-e Qods, Iran
2 Assistant Professor , Department of accounting and Management , Payame Noor University,Tehran, Iran
چکیده English

In recent years, the use of AI systems in the field of financial and banking services, especially in the field of fraud detection, has been considered as one of the key tools in increasing security and reducing financial risk. However, the acceptance of these new technologies by bank employees and customers requires the provision of prerequisites such as transparency of algorithm performance and reducing their possible biases. The present study aimed to investigate the effect of transparency and algorithmic bias on the acceptance of AI-based fraud detection systems with the role of trust mediation and using a structural equation approach. This study is applied in terms of purpose and descriptive-correlational in terms of method. The statistical population of the study included: 653 employees and experts of Bank Melli branches were selected in Karaj. The minimum sample size was estimated to be 242 people according to the Cochran formula and was analyzed. In this study, a standard questionnaire was used to collect data. Reliability was examined using Cronbach's alpha coefficient, and face and content validity were examined and confirmed by the supervisor and experts. The data obtained were also analyzed using SPSS and lisrel statistical software. The findings of the study showed that algorithmic transparency has a positive and significant effect on trust and also on the acceptance of fraud detection systems. In addition, the results indicate that the lack of algorithmic bias also directly affects the level of employee trust in the system, thereby increasing the acceptance of artificial intelligence technology. The mediating role of trust in this relationship was confirmed and it was determined that trust, as a mediator, strengthens the intensity of the effect of transparency and impartiality of algorithms on the acceptance of artificial intelligence-based systems. Based on the Sobel test and model fit indices, the desired relationships had appropriate statistical validity.

کلیدواژه‌ها English

Transparency
algorithmic unbiasedness
acceptance of AI-based fraud detection systems
trust
ولیپور، مهرداد،1404،تشخیص تقلب مبتنی بر هوش مصنوعی و پیش بینی بازار انرژی،بیست و سومین کنفرانس ملی اقتصاد، مدیریت و حسابداری،شیروان،https://civilica.com/doc/2266673.
محمدی آریا وسط چی، علیرضا و یارمحمدی، مرضیه،1404،هوش مصنوعی: چالش های اخلاقی عصر حاضر،اولین همایش بین المللی هوش مصنوعی در آموزش و پرورش، روانشناسی، علوم تربیتی و مطالعات دینی، فرهنگی، اجتماعی و مدیریتی در هزاره سوم،بوشهر،https://civilica.com/doc/2218865.
حسینی، الهام و ارسطو، ایمان،1403،اثرات اعتماد شناختی و اعتماد اجتماعی بر قصد پذیرش عامل دیجیتال هوش مصنوعی با نقش میانجی اعتماد عاطفی در بین مشتریان بیمه سامان،سی ویکمین همایش ملی و دوازدهمین همایش بین المللی بیمه و توسعه: رضایت مندی و اعتماد مردم به صنعت بیمه،تهران،https://civilica.com/doc/2148932.
دارائی، محمد،1403،هوش مصنوعی توضیح پذیر: گامی به سوی شفافیت و اعتماد در هوش مصنوعی،https://civilica.com/doc/2155766.
روزبهانی، زهرا و نظری، سارا و صراف زاده جهرمی، مجتبی،1403،بررسی سیستم های تشخیص نفوذ مبتنی بر هوش مصنوعی،دومین کنفرانس بین المللی پژوهش ها و فناوری های نوین در مهندسی برق، تهران،https://civilica.com/doc/2083295.
اکبرالسادات سیدمجید, & اسماعیل پور بابک. (1401). مروری بر روش های کشف تقلب بانکی با استفاده از هوش مصنوعی، فصلنـامـه علمی مـؤسسه آمــوزش عــالی فـردوس، سال دوم | شماره ششم | پاییز 1401.
شعری آنافیز، صابر و خراسانی، ابوطالب (1396) . واکاوی مفهوم تقلب و بررسی آثار به کارگیری استانداردهای حسابرسی در افشای اطلاعات گزارشگری مالی متقلبانه. اولین همایش
Abdulrahman, M. H. (2019). The impact of Artificial Intelligence (AI) in detecting fraud in the UAE. Electronic Interdisciplinary Miscellaneous Journal, 17(10), 1-19.
Agheli, M., & Ajorloo, F. (2018). The Effect of brand journalism on customers' repatronage intention towards local. Quarterly Journal of Brand Management, 5(1), 135-168.
Agheli, M., NikMenesh, S., Rashidi, H., & Jalali, P. (2023). Training on thesis writing and scientific article writing. Tehran: Dibagaran Book Institute. (In Persian(
Ahmadi, S. (2022). Advancing Fraud Detection in Banking: Real-Time Applications of Explainable AI (XAI). Journal of Electrical Systems, 18(4), 141-150.
Ayeni, T. J., Durotoye, E. O., & Eriabie, S. (2024, April). Adoption of artificial intelligence for fraud detection in deposit money banks in Nigeria. In 2024 international conference on science, engineering and business for driving sustainable development goals (SEB4SDG) (pp. 1-5). IEEE.
 Bahnsen, A. C., Aouada, D., Stojanovic, A., & Ottersten, B. (2020). Feature engineering strategies for credit card fraud detection. Expert Systems with Applications, 51, 134-142. https://doi.org/10.1016/j.eswa.2019.12.028
Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and machine learning. fairmlbook.org.
Basri, W. S., & Almutairi, A. (2023). Enhancing Financial Self-efficacy through Artificial Intelligence (AI) in Banking Sector. International Journal of Cyber Criminology, 17(2), 284-311.
Chen, I. Y., Johansson, F. D., & Sontag, D. (2020). Why is my classifier discriminatory? Advances in Neural Information Processing Systems, 32, 3539–3550.
Dayalan, P., & Sundaramurthy, B. (2025). Exploring the Implementation and Challenges of AI-Based Fraud Detection Systems in Financial Institutions: A Review. Creating AI Synergy Through Business Technology Transformation, 25-38.
Doshi-Velez, F., & Kim, B. (2019). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
Eskandarany, A. (2024). Adoption of artificial intelligence and machine learning in banking systems: a qualitative survey of board of directors. Frontiers in Artificial Intelligence, 7, 1440051.
Goodfellow, I., Bengio, Y., & Courville, A. (2018). Deep learning. MIT Press.
Islam, M. Z., Shil, S. K., & Buiya, M. R. (2023). AI-driven fraud detection in the US financial sector: Enhancing security and trust. International Journal of Machine Learning Research in Cybersecurity and Artificial Intelligence, 14(1), 775-797.
Jurgovsky, J., Granitzer, M., Ziegler, K., Calabretto, S., Portier, P.-E., He-Guelton, L., & Caelen, O. (2018). Sequence classification for credit-card fraud detection. Expert Systems with Applications, 100, 234-245. https://doi.org/10.1016/j.eswa.2018.01.034
LeCun, Y., Bengio, Y., & Hinton, G. (2020). Deep learning. Nature, 521(7553), 436-444.
Lipton, Z. C. (2018). The mythos of model interpretability. Communications of the ACM, 61(10), 36-43. https://doi.org/10.1145/3233231
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM Computing Surveys (CSUR), 54(6), 1–35. https://doi.org/10.1145/3457607
Ngai, E. W. T., Hu, Y., Wong, Y. H., Chen, Y., & Sun, X. (2021). The application of data mining techniques in financial fraud detection: A classification framework and an academic review of literature. Decision Support Systems, 140, 113428. https://doi.org/10.1016/j.dss.2020.113428
Ngai, E. W. T., Hu, Y., Wong, Y. H., Chen, Y., & Sun, X. (2021). The application of data mining techniques in financial fraud detection: A classification framework and an academic review of literature. Decision Support Systems, 140, 113428. https://doi.org/10.1016/j.dss.2020.113428
Nguyen, G. H., Tran, N. H., Ngo, T. D., & Phung, D. (2021). An effective approach to credit card fraud detection using CNN and LSTM. IEEE Access, 9, 15323-15333. https://doi.org/10.1109/ACCESS.2021.3050887
Ozioko, A. C. (2024). The Use of Artificial Intelligence in Detecting Financial Fraud: Legal and Ethical Considerations. Multi-Disciplinary Research and Development Journals Int'l, 5(1), 66-85.
Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why should I trust you?” Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 1135-1144. https://doi.org/10.1145/2939672.2939778
Shelke, P., Suganthiya, Dr. M. S., Sharma, Prof. Dr. B. (2025). A Study on the Effectiveness of Artificial Intelligence Based Fraud Detection in Online Banking. International Journal of Research Publication and Reviews, Vol (6), Issue (4), April (2025), Page – 15303-15308.
Veale, M., & Binns, R. (2020). Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive data. Big Data & Society, 4(2). https://doi.org/10.1177/2053951717743530
Weller, A. (2019). Transparency: Motivations and challenges. Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, 17–23. https://doi.org/10.1145/3306618.3314238
Yaseen, H., & Al-Amarneh, A. A. (2025). Adoption of artificial Intelligence-driven fraud detection in banking: the role of trust, transparency, and fairness perception in financial institutions in the United Arab Emirates and Qatar. Journal of Risk and Financial Management, 18(4), 217.
Zhang, B., Dafoe, A., & Chen, J. (2022). Transparency and trust in AI: The role of bias mitigation. Annual Review of Sociology, 48, 205-222. https://doi.org/10.1146/annurev-soc-123521-102931