Per creare una memoria di traduzione di solito è necessario un apposito programma basato sulle memorie di traduzione, cioè un cosiddetto CAT tool (strumento di traduzione assistita). Quando si traduce un testo con uno di questi programmi i vari segmenti (grosso modo le frasi) costituiti da testo originale e testo tradotto vengono memorizzati in una banca dati. Oltre al testo, vengono memorizzati anche alcuni metadati, come l'autore del segmento, la data di creazione, l'eventuale data di modifica, e altri ancora. Questa banca dati è la memoria di traduzione.
Il formato di questa banca dati sarà diverso a seconda del CAT tool utilizzato. Molti usano il formato standard TMX (translation memory exchange) o quanto meno consentono l'esportazione del database da un formato proprietario a TMX.
Essendo il formato TMX una forma di XML, quindi un file di testo semplice, nulla impedisce di creare una memoria di traduzione anche da zero, usando il Bloc Notes o un altro editor di testo (preferibilmente avanzato, come Notepad++). Per quanto la creazione da zero possa essere un esercizio fine a sé stesso, per chi lavora abitualmente con i CAT tool può invece essere necessario modificare una memoria di traduzione per intervenire sul testo (per esempio per correggere errori riscontrati dopo la traduzione e la consegna, oppure per unire più memorie fra loro). Benché siano molti i programmi che facilitano queste operazioni di manutenzione, i più smaliziati possono sempre aprire i file e modificarli manualmente, appunto perché si tratta di file di testo aperti.
