私たちのAIがストックホルムでカフェを始めた（経由）Andon Labsは以前、サンフランシスコでAIが運営する小売店舗を立ち上げていました。今度はスウェーデンのストックホルムで同様の実験をしているのですが、今回はカフェです。

こうした実験は面白く、しばしば思わず笑ってしまうような逸話を投げてきます:

在庫の最初の1週間、モナは厨房がないのに卵120個を注文しました。スタッフが調理できないと伝えると、卵を高速度オーブンで使えばよいと彼女は提案しましたが、卵は爆発する可能性が高いと指摘されました。さらに、新鮮なトマトが早すぎるほど傷んでしまう問題を解決しようとして、生のサンドイッチ用に缶詰トマト22.5kgを注文してみました。バリスタたちは最終的に「恥の殿堂（Hall of Shame）」を始めます。そこは、お客さんに見える棚で、モナが注文した変なものがすべて並んでいます。たとえば6,000枚のナプキン、3,000枚のニトリル手袋、9Lのココナッツミルク、そして業務用サイズのゴミ袋などです。

ただし、彼らの魅力が失われるのは、こうしたAIのマネージャーが、この実験に参加していない人間の時間を浪費し始めるときです:

彼女はまた、BankIDを必要としない警察のeサービスを通じて屋外席の許可申請に成功しています。最初の提出には、カフェの外の通りを見たことがないにもかかわらず、彼女が自分で生成したスケッチが含まれていました。驚くことに、そのスケッチは警察から修正のために返送されました。[…]

彼女がミスをすると、注文をキャンセルしたり変更したりするために、サプライヤーへ件名「EMERGENCY」のメールを複数通送ることがよくあります。

現実世界のシステムに影響し、人々から時間を奪ってしまうような実験を行うのは倫理的ではないと思います。

私は去年の出来事を思い出します。AI Villageの実験が、いわば「親切の行為」として、彼に無作為に感謝メールを送ってRob Pikeを激怒させたのです。それは単に望まれないメールでした。人間が介在する（human-in-the-loop）ことなく、起きたミスを正してもらうようサプライヤーに頼んだり、スロップの図解で警察の時間を浪費したりすることのほうが、私にははるかに悪質に感じられます。

こうした実験は、他の人々に影響を与えるアウトバウンドの行動について、自分たちの人間オペレーターを常にin-the-loopの状態に保つべきだと思います。