Macが人間関係をグラフ化、家族か同僚かを確率で判定していた

Macの中に、人間関係を図にしているプログラムが2つ入っていた。名前は knowledgeconstructiond と intelligenceplatformd。セキュリティ調査のThe Eighth Rankが11月7日に報告書を出し、技術者が集まる掲示板のHacker Newsでは851点・453件のコメントがついた。macOS 13が出た2022年から、すべてのMacで動いているという。日本で使っているMacも、ここに入る。

置き場所は、ユーザーのフォルダの中のIntelligencePlatform。SQLiteのファイルが51個ある。中心のgraph.dbには181種類のモノと278種類の関係が並び、1行ごとに0から1までの確信度が付く。材料は、連絡先、カレンダーの予定名と参加者、写真の顔、ファミリー共有に入る家族の年齢、ヘルスケアの緊急連絡先、位置の記録、入れているアプリ。画面のロックやWi-Fi、充電中かどうかまで入る。

「母」か「同僚」か、確率で書いてある

おかしいのはここからだ。家族かどうかを決めているのは、144個のふるまいの特徴を見る分類器2つ。答えは「母」「父」「姉妹」「兄弟」「パートナー」「子」「同僚」「友人」で、それぞれに確率が付く。Macは4年前から、こちらの人間関係のテストを黙々と解いていた。答案は見せてくれない。間違っていても、直す窓口がない。

で、危ないのか。Hacker Newsでいちばん多かったのは、自分の端末で自分のデータを処理しているだけだろう、という受け止めだ。Appleに送られているという証拠は、報告書にも出ていない。

怒る相手は、Appleではないかもしれない

ただ、51個のファイルは暗号化されていない。守っているのはフルディスクアクセスという許可1枚だけだ。同じ掲示板には、フルディスクアクセスのある他のアプリなら、ただ読んで外へ上げられる、という指摘もあった。この許可を、ふだん自分でアプリに渡している人は多い。問題はAppleの倉庫ではなく、自分が配った合鍵の数ではないか、という見方だ。

不信感を書いた人の論点は、もう少し先にあった。すべて記録されると分かっていると、人との付き合い方がこわばる。形式ばらない柔らかさが失われていく、という声だ。

自分のMacを調べた開発者のNic Lydonも、同じ仕組みを見つけてこう書いた。「”on-device” doesn’t mean “small.”」。「端末の中」は、小さいという意味ではない。11月9日の時点で、Appleはこの2つのプログラムの中身を説明していない。システム設定の「SiriとSpotlight」で「Siriからの提案」を切れば材料は減るが、プログラムそのものは動き続ける。