「キャリコネ」は、企業に勤める社員や元社員が企業に関する口コミや年収情報、面接体験などを自由に投稿できる日本最大級の企業口コミサイト。掲載企業件数は2020年3月時点で約62万件に上る。
同社では、投稿された口コミに対し、投稿可能な最小文字数や一定の単語の規制をかけているほか、投稿内容の事後検閲体制により、社会道徳に反するような誹謗中傷といった不適切な投稿を発見した場合には削除を行うなど、利用者の同サービスに対する便宜性・信頼性を失わないように規制・監視に努めている。
これまでは、投稿内容の事後検閲をプログラムまたは人間による目視で行っておりましたが、人工知能（AI）による口コミ検閲システムを導入する。これにより同社では、監視コストの削減（現時点での削減はもちろんのこと未来増大するコストの抑制も含む）や人的負担の低減を図るとともに、人工知能に日々蓄積される教師データにより投稿の信憑性・信頼性をより高めたいとしている。
AIによる口コミ検閲のシステムの構築には、モデルの構築から稼働までをシームレスに実現できるAWSのSageMakerを採用した。キャリコネが創設以来徹底してきた、口コミの高い信憑性・信頼性の担保を最重要課題とし、人間による検閲作業を高いレベルで補佐することを目指しシステムの設計を行っている。
モデルに学習させる教師データは、これまでの運営実績で蓄積された、高品質なラベリング済みデータが十分な量を確保できている中で、一部のデータを再度人間によるチェックにかけるなどし、課題の解決に最適なものにしている。モデルの学習には、AWS S3に格納されたラベリング済みデータに対して、形態素解析、ノイズの除去、正規化、分散表現を用いた置換処理などの前処理を行い、機械学習アルゴリズムに適した形式に整形したデータを使っている。
生成されたAIモデルによる検閲処理はエンドポイント上で稼働させ、キャリコネの様々なサービス内で活用できるようになっているという。
同社ではこの施策について、「AWS SageMakerを採用することで上記のシステム全体を低コストで開発、維持し、モデルの精度改善など、品質向上のためのイテレーションもすべてAWS上で完結するシステムを構築することができました。キャリコネの強みである、信憑性の高い口コミをこれからも変わらず提供していくために、人間による検閲に代わるAIではなく、人間による高いレベルの検閲を補佐する、共に働く仲間としてのAIを目指し、この先もブラッシュアップを重ねて参ります」と述べている。
