Notion meldt dat een beveiligingsincident bij AI-inferentieprovider Fireworks AI mogelijk enkele Notion AI-chats heeft blootgelegd

Notion meldt dat een beveiligingsincident bij een van zijn leveranciers, Fireworks AI, gevolgen kan hebben voor minder dan 1% van de Notion-workspaces. In zijn kennisgeving zegt Notion dat sommige transcripties van Notion AI-chats die voor de functie Insights zijn gebruikt, mogelijk zijn blootgelegd. Notion omschrijft ze als "niet-herleidbaar": ze zijn niet gelabeld met de auteur of workspace en bevatten geen resultaten van toolaanroepen, zoals pagina-inhoud. Volgens Notion zijn er geen andere workspacegegevens getroffen. De Hacker News-discussie over de kennisgeving had op 10 november 62 punten en 18 reacties.

Notions beschrijving van het tijdpad:

• Notion hoorde begin november over mogelijke incidenten bij Fireworks en verbrak de verbindingen met Fireworks. Op 3 november had het de systemen losgekoppeld, de gegevens daar verwijderd en het versturen van verkeer stopgezet.
• Op 6 november vertelde Fireworks aan Notion dat kwaadwillenden mogelijk toegang hadden gekregen tot klantgegevens. Op 8 november bevestigde Fireworks de nieuwe dataset voor Notion.
• Notion gebruikte Fireworks voor classificatietaken achter Insights en als inferentieprovider voor open-weight-modellen. Insights is tijdens het onderzoek uitgeschakeld en Notion levert geen open-weight-modellen meer via Fireworks. Ook heeft het trainingsruns stilgelegd; volgens Notion hadden deelnemers aan het programma voor vroege toegang vrijwillig gegevens aangeleverd om taakspecifieke modellen te testen die op Fireworks waren getraind.

Notion heeft contact opgenomen met de eigenaren van getroffen workspaces. Zij kunnen de gegevens bekijken onder "Security incident review" in de desktopapp of op het web. Enterprise-eigenaren krijgen een CSV-bestand en een geannoteerd CSV-bestand; andere eigenaren krijgen een link die ze met leden kunnen delen. Notion raadt aan de gegevens als blootgesteld te beschouwen en wachtwoorden, API-sleutels en andere inloggegevens die iemand in Notion AI heeft geplakt, te vervangen.