MIT Technology Review AI menyoroti data lineage sebagai masalah keamanan utama bagi perusahaan yang menerapkan agen AI di seluruh alur kerja bisnis.
Dalam skenario yang dijelaskan publikasi tersebut, perwakilan penjualan meminta agen untuk menyiapkan harga pelanggan. Agen itu mengambil data dari beberapa sumber, termasuk sistem harga dengan akses terbatas, komunikasi internal, dan penawaran yang diarsipkan. Agen kedua kemudian menggunakan keluaran agen pertama untuk menyusun draf proposal, tanpa pemeriksaan manusia pada kedua serah-terima tersebut.
Contoh ini menunjukkan bahwa jawaban yang tampak akurat bagi agen tetap dapat meneruskan data dengan pembatasan akses, konteks, atau keandalan yang berbeda. Melacak asal informasi—dan bagaimana informasi berubah saat agen meneruskannya antarsistem—dapat membantu organisasi mengaudit keputusan otomatis dan mengidentifikasi data bermasalah sebelum mencapai pelanggan.