استارت آپ‌ها و پیشگیری از خشونت مجازی

کایتیاکی ؛ استارت آپ شناسایی کننده پدیده‌های پرخطر برای مبارزه با خشونت مجازی

نویسنده: محمدرضا ملکی

تخمین زمان مطالعه: ۸ دقیقه


بسیاری باور دارند که تنها در دنیای واقعی کنش‌های غیراخلاقی صورت می‌پذیرد و فضای مجازی را برای بررسی کنش‌های اخلاقی مدنظر قرار نمی‌دهند. با این حال بر کسی پوشیده نیست که فضای مجازی نیز نیازمند تعریف قوانین و عرف‌های اخلاقی خود است.

فضای مجازی به دلیل عدم ارائه‌ی هویت واقعی توسط کاربرانش، از پیش به نوعی سازنده‎‌ی فضایی بالقوه‌ی برای به وجود آمدن امور غیراخلاقی است. در این میان در مقابل تمام کنش‌های غیراخلاقی واردشده به عموم، باید پذیرفت که کودکان و نوجوانان به‌عنوان دسته‌ی بزرگی از کاربران این فضا، بیش از همه در معرض خطرهای فضای مجازی و دنیای اینترنت قرار دارند. در همین راستا استارت آپ کایتیاکی معرفی می‌گردد:


زورگویی و تهدید شدن از جانب دیگران یکی از سخت‌ترین و بدترین تجربه‌هایی ست که هر کودک و نوجوانی می‌تواند آن را تجربه کند. اختلال‌هایی مانند افسردگی و اضطراب در میان کسانی که مورد زورگویی و قلدری واقع‌شده‌اند بسیار شایع است. از همین رو توجه به عدم رویارویی کودکان و نوجوانان با چنین مسئله‌ای بسیار حائز اهمیت است.

با اینکه تمرکز اساسی بسیاری از مدافعان حقوق کودکان بر زورگویی و قلدری فیزیکی قرار گرفته است اما بنا به پژوهش‌های مراکز اروپایی، قریب به ۱۱٫۵ میلیون کودک اروپایی از خشونت مجازی و آنلاین رنج می‌برند. طبق این پژوهش‌ها، تنها ۲۹% از والدین این کودکان، آگاه از مشکلات فرزندان خود هستند.

بنا به پژوهش‌های انجام‌گرفته، زورگویی و خشونت مجازی به معنی هرگونه فشار، خشونت، آزار، تهدید، توهین و یا دزدی هویت و درخواست‌های غیرقانونی، فریب و یا استفاده‌ی غیرقانونی از اطلاعات و داده‌های شخصی در فضای مجازی است که می‌تواند باعث به وجود آمدن مشکلاتی ازاین‌دست برای فرزند یک خانواده و آن خانواده گردد.

با وجود این تعریف برای زورگویی مجازی، هنوز مشکلات و خطرات دیگری در فضای مجازی مانند متن‌های حاوی مفاهیم جنسی، مفاهیم تنفرآمیز و همین‌طور محتواهای آسیب‌زننده به فرد، ازجمله خطرات بالقوه‌ی موجود در فضای مجازی هستند. اتفاق‌هایی مانند نهنگ آبی ازجمله وقایع بسیار خطرناک فضای مجازی محسوب می‌شوند که منجر به آسیب زدن کودکان به خود و یا از دست دادن جان آن‌ها خواهند شد.

برنامه‌های پیشگیری و حل مشکلات زورگویی و مورد خشونت واقع‌شدن، به‌صورت سنتی بر روی برنامه‌های آموزشی (غیر آنلاین) و مشاوره‌ی روان‌شناسانه تمرکز دارد. باید در نظر گرفت که در اروپا نزدیک به ۴۳ میلیون خانواده دارای فرزندانی هستند که به اینترنت دسترسی دارند. از میان این جمعیت برخی پژوهش‌ها نشان می‌دهند که از هر ۳ پسر یکی از آن‌ها مورد زورگویی مجازی قرار می‌گیرد که در بسیاری از این آمارها فردی که بانی خشونت است از همکلاسی‌های او محسوب می‌شود.

کایتیاکی؛ استارت آپ شناسایی کننده پدیده‌های پرخطر برای مبارزه با خشونت مجازیدر میان این آمارها قریب به ۴۴ درصد از کودکان میان ۱۰ تا ۱۴ سال اقدام به ارسال به متن‌هایی با محتوای جنسی کرده‌اند و قریب به ۳۴ درصد آن‌ها متن‌هایی از این دست را توسط پیامک دریافت کرده‌اند.

آمارهای دیگری نشان می‌دهد که از هر ۱۰ زن، یک نفر محتوای خشونت‌آمیز جنسی را از طریق پیام‌های متنی و شبکه‌های اجتماعی دریافت می‌کنند. از این لحاظ باید در نظر گرفت که فضای اینترنت می‌تواند فضای بسیار آسیب‌زننده‌ای به تمام جنسیت‌ها و سنین باشد. اما در میان کاربران عادی اینترنت، از همه بیشتر کودکان و نوجوانان در معرض آسیب‌های فضای مجازی قرار دارند.

استارت آپ کایتیاکی: شناسایی کننده پدیده‌های پرخطر

کایتیاکی[۱] یک استارت آپ پیش رو درزمینه‌ی توجه و رفع مشکلات مربوط به خشونت مجازی و زورگویی مجازی است که در جهت کاهش خطرات موجود در وب و ارائه خدماتی در این حوزه در حال تکاپوست. کایتیاکی یک ربات خودکار آنلاین است که مکالمات کودکان را کنترل کرده و در زمانی که خطری متوجه کودک باشد والدین او از طریق یک پیام متنی آگاه می‌کند و والدین را مجبور به مداخله می‌کند. این امر این امکان را به والدین می‌دهد تا فعالیت‌های کودک خود را بدون کاوش و جستجوی زندگی شخصی آن‌ها کنترل کنند.

اما چگونه این ربات مجازی می‌تواند پدیده‌های خشونت‌آمیز و یا پرخطر را شناسایی کند؟ این اپلیکیشن پیشرفته از یک هوش مصنوعی و تکنولوژی برآمده از هوش مصنوعی و شبکه عصبی استفاده می‌کند و با فرآیند یادگیری ماشین، متن‌ها، عکس‌ها و ویدیوهای موجود در مکالمه‌های کودکان را تحلیل کرده و خطر هرگونه پدید خشونت‌آمیز و نامناسب را بررسی می‌کند و نقش هر کودک را با توجه به پدیده رخ‌داده مشخص می‌کند. این یعنی درصورتی‌که فرد قربانی باشد و یا فرد زورگو باشد این ربات قادر به تشخیص نقش کودک در پدیده رخ‌داده شده است.

برای استفاده از این قابلیت، نیازی به نصب یک نرم‌افزار جداگانه نیست و این سیستم به‌صورت آنلاین فعالیت می‌کند. این فرآیند تنها احتیاج به یک ثبت‌نام اولیه و دادن اطلاعات پروفایل هر کودک و یا نوجوان به این وب‌سایت است. در حال حاضر شبکه‌هایی مانند، فیس‌بوک، توییتر و ایسنتاگرام از جمله شبکه‌هایی هستند که می‌توانند تحت این نرم‌افزار تحت کنترل قرار بگیرند.

بسیاری بر این باور هستند که این نرم‌افزار می‌تواند به نوعی حریم خصوصی افراد را زیر پا بگذارد اما استدلال اصلی تولیدکنندگان این فنّاوری این است که نقش و وظیفه‌ی نگه‌داری و مراقبت از فرزندان به همان اندازه‌ی حریم خصوصی آن‌ها مهم و دارای اهمیت است. بااین‌حال طبق فرایندهای تعریف‌شده در این نرم‌افزار، مادر و پدرها اجازه دسترسی به حساب‌های کاربری شبکه‌ی مجازی کودکان خود را ندارند و تنها ربات هوشمند می‌تواند جهت تحلیل محتوای موجود دسترسی لازم را داشته باشد.

کایتیاکی همین‌طور عضو ثبت‌شده یکی از کمسیون‌های اجتماعی اتحادیه‌ی اروپاست. این نرم‌افزار درصدد بوده است که طبق اصول نظریه‌ی تغییر، بتواند بیشترین میزان تأثیرگذاری اجتماعی را داشته باشد و درعین‌حال در کنار توجه به توسعه‌ی پایدار خود از خلاقیت‌های جدید بهره برده و مصرف‌کننده‌های محصولات خود را درگیر کند.

کایتیاکی؛ استارت آپ شناسایی کننده پدیده‌های پرخطر برای مبارزه با خشونت مجازی

کایتیاکی ادو: ارائه اطلاعات بیشتر

در کنار ربات هوشمند این نرم‌افزار، قسمت‌های مختلف دیگری در اپلیکیشن این نرم‌افزار برای دادن آگاهی بیشتر به والدین ساخته‌ شده است که کایتیاکی ادو[۲] نام دارد. این ابزار می‌تواند توسط مدارس و انجمن‌های مختلف برای کسب اطلاعات و آگاهی بیشتر درزمینه‌ی خشونت مجازی به کار رود.

این نرم‌افزار همین‌طور به معلم‌ها، مشاورها و روانشناسان و جامعه‌شناس‌ها کمک می‌کند که به کمک داده‌های واقعی جمع‌آوری‌شده بتوانند خطرهای بالقوه‌ی موجود هر یک از کلاس‌ها و یا گروه‌های آموزشی را شناسایی و مشخص کنند.

این کار توسط کشیدن نقشه‌ی خطرات موجود، می‌تواند خطرات به وجود آمده و داده‌های جمع‌آوری‌شده‌ی سالیانه را در کنار یکدیگر تحلیل کرده و مسائل و خطرات مربوط به خشونت مجازی و زورگویی مجازی را بر اساس گروه‌های مختلف سنی، کلاس‌ها، محل‌های اقامت و منطقه‌های مختلف کودکان شناسایی کرده و ارائه دهد.

این بستر نرم‌افزاری می‌تواند توسط خانواده‌ها، شرکت‌ها، مدارس و عامه‌ی مردم مورداستفاده قرار گیرد. این بستر نرم‌افزاری به خانواده‌ها کمک می‌کند که کودکان خود را از خطرات آنلاین محافظت کرده و درعین‌حال حریم خصوصی کودکان را حفظ می‌کند.

در کنار کمک به خانواده این بستر نرم‌افزاری سعی می‌کند در شرکت‌ها افرادی که نفرت پراکنی می‌کنند و به دیگران احترام نمی‌گذارند را شناسایی کند. همین‌طور در مدارس نیز این بستر نرم‌افزاری کمک می‌کند که خطرات بالقوه‌ی موجود در فضای آموزشی نیز شناسایی شوند.

سرویس‌های دیگر

در کنار خدمات مربوط به جلوگیری از زورگویی مجازی، این استارت آپ همچنین سرویس‌هایی مانند کی گیم[۳] را معرفی کرده است در آن از طریق مکانیسم‌های بازی‌سازی و گیمیفیکشن کودکان را در مقابل خطرات شبکه‌ی مجازی آگاه می‌کند. سرویس کی چت[۴] نیز با استفاده از فنّاوری مربوط به چت بات‌ها (ربات‌های مکالمه‌گر) اطلاعات بسیار زیادی در زمینه‌ی زورگویی و خشونت مجازی به والدین و فرزندانشان ارائه می‌دهد.

باید در نظر گرفت که با تمام تلاش این بستر نرم‌افزاری برای کاهش امور غیراخلاقی، با این حال بسیاری این نقطه‌نظر را دارند که حریم خصوصی کودکان در این نرم‌افزار رعایت نمی‌شود. پاسخ اصلی که پیش‌تر توسط سازندگان این نرم‌افزار نیز داده شد نیز حاکی از آن بود که مطالعه و تحلیل مکالمه‌ها و فضای جاری میان کاربران کودک فضای مجازی، خود خطر و آسیب اخلاقی بسیار کمتری به نسبت خوانده شدن تمام پیام‌های یک کودک و از بین بردن حریم خصوصی او می‌شود. بنابراین باید گفت این نرم‌افزار تمام تلاش خود را کرده است که درعین‌حال تمام نکات اخلاقی لازم را حین توسعه‌ی خود رعایت کند.

منابع:

https://edu.gcfglobal.org/en/internetsafetyforkids/cyberbullying-and-cyberharassment/1/

https://thenextweb.com/contributors/2017/10/04/how-dangerous-is-cyberbullying/

https://www.kaitiaki.it/

[۱] Kaitiaki

[۲] kaitiaki edu

[۳] k-game

[۴] k-chat


بردار به زودی مجله‌ای در حیطه اخلاق و فناوری به چاپ خواهد رساند. مطالب مشابه آن را می توانید اینجا مشاهده کنید.

1+

افزودن دیدگاه

لطفا دیدگاه خود را بنویسید
لطفا نام خود را وارد کنید

سه + 7 =