طراحی الگوی مفهومی تعدیل‌گری هوشمند محتوا در پلتفرم‌ها(مطالعه تطبیقی یوتیوب، ایکس، آپارات و دیوار)

نوع مقاله : مقاله پژوهشی

نویسندگان
1 دانشیار، پژوهشکده جامعه و اطلاعات ، گروه پژوهشی مطالعات اجتماعی اطلاعات، پژوهشگاه علوم و فناوری اطلاعات ایران(ایرانداک)، تهران، ایران
2 کارشناسی ارشد مدیریت رسانه، دانشگاه تهران، تهران، ایران.
3 دانشیار، گروه مدیریت رسانه و ارتباطات کسب و کار، دانشکده مدیریت، دانشگاه تهران، تهران، ایران.
10.22034/aimj.2026.600655.1688
چکیده
پژوهش حاضر با هدف طراحی الگویی مفهومی برای تعدیل‌گری هوشمند محتوای تولیدشده توسط کاربران در پلتفرم‌های دیجیتال انجام شده است. مسئله اصلی، تبیین نحوه پیوند تشخیص خودکار، داوری انسانی، مشارکت کاربران و قواعد پلتفرمی در شناسایی و مدیریت محتوای ناقض سیاست‌هاست. اطلاعات نادرست و اخبار جعلی در این پژوهش یکی از مصادیق محتوای مسئله‌دار به شمار می‌روند و با همه انواع محتوای ممنوع یا آسیب‌رسان یکسان تلقی نمی‌شوند. پژوهش با رویکرد کیفی و در قالب مطالعه تطبیقی چهار مورد انجام شد. داده‌های اصلی از اسناد و سیاست‌های منتشرشده یوتیوب، ایکس، آپارات و دیوار و داده‌های مکمل از شش مصاحبه نیمه‌ساختارمند با متخصصان مرتبط با پلتفرم‌های داخلی و حوزه رسانه‌های دیجیتال به دست آمد. داده‌ها در سه سطح کدگذاری اولیه، تجمیع مفهومی و مقوله‌بندی سازمان یافتند و سپس سازوکارهای تعدیل‌گری در ابعاد مشترک و متناسب با ویژگی هر پلتفرم مقایسه شدند. در مجموع ۵۵۹ کد اولیه، ۱۱۸ کد مفهومی و ۴۱ مقوله در سطح چهار مورد مطالعاتی گزارش شد. تحلیل داده‌ها چهار حوزه اصلی سیاست‌گذاری محتوا، شناسایی و ارجاع موارد مشکوک، تصمیم‌گیری و مداخله، و پاسخگویی و بازبینی را نشان داد. در پلتفرم‌های رسانه‌ای، مدیریت اطلاعات نادرست در کنار سایر تخلفات محتوایی قرار می‌گیرد؛ در بازارگاه آگهی، اصالت اطلاعات آگهی، هویت و امنیت تعاملات اهمیت بیشتری می‌یابد. بر پایه این اشتراک‌ها و تفاوت‌ها، الگویی ترکیبی با نقش‌های متمایز برای فناوری، نیروی انسانی، کاربران و مدیریت پلتفرم ارائه شد. نتیجه پژوهش نشان می‌دهد که طراحی تعدیل‌گری هوشمند محتوا مستلزم تفکیک تشخیص از تصمیم، تناسب مداخله با نوع تخلف و پیش‌بینی سازوکار بازبینی است. الگوی پیشنهادی، چارچوبی برای سازمان‌دهی این وظایف در پلتفرم‌های متفاوت ارائه می‌کند.
کلیدواژه‌ها

عنوان مقاله English

Conceptual Design of Intelligent Moderation in Media Platforms: A Comparative Study of YouTube, X, Aparat, and Divar

نویسندگان English

Somayeh Labafi 1
nahid akrami 2
Datis Khajeheian 3
1 Associate Professor, Research Institute for Society and Information, Department of Social Studies of Information, Iranian Research Institute for Information Science and Technology (IranDoc), Tehran, Iran .
2 Master’s Degree in Media Management, University of Tehran, Tehran, Iran.
3 Associate Professor, Department of Media Management and Business Communication, Faculty of Management, University of Tehran, Tehran, Iran.
چکیده English

This article aims to propose a conceptual model for the intelligent moderation of fake news on media platforms, capable of explaining the relationship between artificial intelligence, human oversight, and user participation in the processes of identifying, evaluating, and reducing the dissemination of false and misleading content. The significance of this issue lies in the fact that social networks, despite their extensive role in information circulation and public participation, have also become environments for the rapid spread of misinformation, the polarization of public opinion, and the erosion of social trust. This study adopts a qualitative approach based on comparative analysis and documentary research. To this end, the content moderation policies, guidelines, and practices of four platforms—YouTube, X, Aparat, and Divar—were examined and coded. To complement the documentary data, semi-structured interviews were conducted with experts from the social media ecosystem, including product managers, technical, legal, and content specialists, as well as experts in the field of media platforms. The data were analyzed through three stages: open coding, conceptual aggregation, and categorization. The findings indicate that effective moderation of fake news on media platforms does not rely on a single-dimensional mechanism; rather, it operates as a multilayered and hybrid system. Within this system, artificial intelligence algorithms are used for the initial and scalable detection of content; human moderators are responsible for contextual assessment, identifying borderline cases, and making final decisions; users contribute to the monitoring process through reporting and feedback; and platform policies define the legal and operational framework for addressing violations. The comparative analysis also showed that domestic platforms, while drawing on international experiences, have incorporated local legal and cultural requirements into their moderation policies. The study concludes that intelligent moderation is most effective when a balance is established among the speed and scalability of artificial intelligence, the interpretive sensitivity of human oversight, the transparency of platform policies, and responsible user participation. Sole reliance on artificial intelligence increases the risk of contextual errors and algorithmic bias, while complete dependence on human moderation is constrained by limitations related to speed, cost, and psychological pressure. Therefore, the proposed model emphasizes a hybrid, accountable, context-sensitive, and reviewable approach to content moderation.

کلیدواژه‌ها English

Content Moderation
Platform Regulation
Social Networks
Fake News
Intelligent Moderation

  • تاریخ دریافت 12 شهریور 1405
  • تاریخ بازنگری 27 مهر 1405
  • تاریخ پذیرش 27 مهر 1405