Открыть файл dem в CS: GO можно только если сначала разместить его в директории инсталляции cstrike\. После открывайте игру и консоль в ней, в консоль пишите viewdemo demoname, где "demoname" - как раз название название файла dem, но без указания расширения ".dem".
В целом файлы DEM тем и отличаются, что воспроизводить их можно только в играх, где они были и созданы. Например, помимо CS: GO, они применяются еще в Hexen II, Quake и Unreal Tournament.
А еще DEM теоретически можно перекодировать в более удобные форматы, вроде .avi - для этого сойдут программы-декодеры, типа Virtual Dub и другие.