Home インスタグラマー AIでネットいじめ防止、インスタの「自主規制」の狙い – Forbes JAPAN

AIでネットいじめ防止、インスタの「自主規制」の狙い – Forbes JAPAN

13 second read
0
29

ネット上でのいじめへの対策が不十分だとして批判されていたインスタグラムが、AI(人工知能)を利用して不快なコメントを排除し、ユーザーを守るための対策を発表した。

ユーザーがコメントを投稿する際に、AIが他者を傷つける可能性のある投稿を見直すよう促すほか、特定のアカウントのコメントを非表示にし、ダイレクトメッセージに既読がつかない「制限」機能を設ける。

インスタグラムは7月8日、不快に思われる可能性があるコメントを、投稿前に知らせる機能を導入すると発表した。世界で大手テック企業への規制強化の声が高まるなか、フェイスブック傘下の同社は自主規制に乗り出した形だ。

ここで興味深いのは、ユーザーが不快なコメントを報告するのではなく、AIが「SNSの良心」を担う役割を果たしている点だ。AIの介入によって「コメントを再考したり書き直したりするチャンスが与えられ、相手を傷つけるようなコメントの投稿を防ぐ」と、インスタグラムの責任者のアダム・モッセーリは説明した。

ユーザーの投稿をAIが監視することに関しては、様々な議論が交わされてきたが、今回インスタグラムが導入した施策は、やや控えめなものといえる。コンテンツの削除やアカウントの制限を自動的に行う計画はまだないという。

モッセーリは「近日中に、望まないやりとりからアカウントを保護するための新しい制限機能のテストを開始する」と述べた。

「特定のアカウントを制限すると、自分の投稿に対してそのアカウントがシェアしたコメントは、相手にのみ表示されるようになる。制限したアカウントからのコメントを承認すれば、他の利用者に表示することも選択できる」とモッセーリは続けた。

さらに、自分がインスタグラム上でオンラインであることや、DMを既読したことも、制限したアカウントには表示されない仕様になるという。

ユーザー同士の関係の悪化を防ぐため、インスタグラムは制限したアカウントにはその旨を通知しないという。今回の2つの新機能は、インスタグラムの本来の良さを保ちつつ、状況を改善することにつながるだろう。

SNSの規制強化が叫ばれる中、AIを用いた投稿の監視に注目が高まっている。AIで投稿をフィルタリングする、安全メカニズムの導入は正しい方向といえそうだ。この流れに続く企業が今後も増えることが予想される。

Let’s block ads! (Why?)


Source link

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Check Also

エコノミークラスへの文句でイットモデル、ウィニー・ハーロウのSNSが大炎上! – SPUR.JP

世界が注目する「まだら肌」の美しいモデル、ウィニー・ハーロウ(25)。ニューヨーク、ロンドン、ミラノなど、世界 … …