Welche Version von DOTT besitzt du denn? Evtl. musst du noch in einen Unterordner wechseln (z. B. bei der 10-Adventure Sammlung von LucasArts in den Ordner "DOTT"). Im Ordner, den du mit ScummVM auswählst sollten Dateien wie Tentacle.00* und monster.sou liegen.
Wenn das nicht funktioniert kannst du DOTT mit ScummVM auch direkt über die Konsole starten (Erklärungen dazu im ScummVM Thread). Der Befehl sollte in etwa so aussehen:
scummvm.exe -f -pD:\DOTT\ tentacle
Genaue Erklärung (auch zu den Parametern) in der readme.txt, die ScummVM beiliegt.