トークン関連のコストという大波が押し寄せようとしている

ワークフローにAIを導入している企業は、ある匿名企業の教訓を参考にすべきでしょう。同社は最近、従業員向けのAnthropic Claudeライセンスに利用制限を設けなかった結果 、わずか1か月で5億ドルものトークン手数料を支払ってしまいました。

「コストについて語っている人は誰もいません。皆、依然としてこのツールをどう最大限に活用するかについてばかり話しています」と、ある米国系銀行の最高情報責任者（CIO）は述べています。「しかし、いずれトークン予算はますます大きな問題となるでしょう。あれこれと活用することはできますが、 コストはかかります。特に大規模に利用する場合、その費用は莫大なものになるでしょう。」

ある大手米国資産運用会社のデータガバナンス責任者は、銀行や資産運用会社が、エージェント型AIプログラムの運用コストについて