PKSHA Technology、不適切投稿を自動検知する「PKSHA Security for Post Guard」を提供開始

2025年2月25日 2025年2月25日

コマースピック編集部　プレス配信チーム

株式会社PKSHA Technology（所在地：東京都文京区、代表取締役：上野山勝也、以下「PKSHA Technology」と称します）が、誹謗中傷や不適切な投稿を自動で検知するサービス「PKSHA Security for Post Guard」の提供を開始しました。

インターネットにおける多くのプラットフォームでは、最近、誹謗中傷や未成年者を狙った不適切な勧誘、故意に虚偽情報を拡散する有害コンテンツが問題視されています。

PKSHA Technologyは「人とソフトウエアの共進化」をビジョンに掲げ、さまざまなソフトウエアを中心としたソリューションやプロダクトを展開。本サービスを通じて、各プラットフォームの健全性を維持し、社会課題の解決に貢献していきます。

この記事の目次

1 AIによる誹謗中傷や情報漏洩の自動検知システムで安全なウェブプラットフォームの維持に挑戦
2 「PKSHA Security for Post Guard」の特長
3 期待される活用シーン
4 今後の展望
- 4.1 プラットフォームの健全性向上と安全なオンラインコミュニケーションの実現

AIによる誹謗中傷や情報漏洩の自動検知システムで安全なウェブプラットフォームの維持に挑戦

近年、特に大規模なインターネットプラットフォームでは、匿名性を悪用した悪質な投稿が増加しており、誹謗中傷や未成年をターゲットにする不適切な勧誘、意図的な虚偽情報の拡散が深刻な問題となっています。

さらに、総務省は2020年9月に発表した「インターネット上の誹謗中傷への対応に関する政策パッケージ」に基づき、ユーザーへの啓発活動などの対策を進めており、プラットフォーム事業者が直面する課題も増加しています。

24時間365日の高品質な監視が大変である。
不適切投稿への迅速な対応が必要とされている。
監視業務の運用コストを削減したいという希望がある。

この課題に対し、PKSHA Securityは金融業界のカード不正利用の検知システムなどを提供してきた技術と知見を活かし、大手マッチングアプリ事業者や監視業者と連携しながら、高精度な不正投稿検知を行うサービス「PKSHA Security for Post Guard」の提供を開始します。

このソリューションを活用することで、プラットフォーム事業者の不正投稿検知コストが削減され、安全なウェブ環境の提供に繋がることを目指します。

「PKSHA Security for Post Guard」の特長

「PKSHA Security for Post Guard」は、大手マッチングアプリ事業者や監視事業者での実績を踏まえた独自のテキスト解析技術を駆使し、大量の投稿から誹謗中傷や公序良俗に反した内容、リスクの高い不適切行為に関する投稿を瞬時に自動で検知します。このハイブリッド型監視体制により、監視業務が効率化されます。

従来の不正投稿の監視方法では、人力に依存し、監視対象のキーワードや画像を事前に設定することが主流でしたが、「PKSHA Security for Post Guard」では、顧客がサービスのユーザーインターフェースを介して実際に遭遇した不正事例を随時追加でき、そのサービス特有の不正パターンに特化した検知を行うことができます。これにより、AIは新たな不正トレンドにも迅速に対応できるようになります。

国内での豊富な実績に基づく、高精度な自動検知が実現
- 大手マッチングアプリ事業者や監視事業者での経験を利用し、文脈を考慮した高精度な判定を実現する独自のテキスト解析技術を採用しています。
- AIモデルの定期的な再学習により、新しい不正トレンドに効果的に対応します。
業務要件に合わせた柔軟なカスタマイズが可能
- 専用の管理画面を通じて、既存または新規の検知ルールを簡単に追加できます。
- 検知対象のファイルをアップロードしたり、APIを通じての推論も行えます。
- 各投稿の不適切さを示すスコアを算出し、その結果を可視化することで、効率的な監視業務を実現します。