Какая разница между режимом эмуляции и нормальным захватом.

Режимом захвата совместимости (ключ F5) является упрощенный, прямой видеозахват для Windows - это отказоустойчивый режим, который Вы должны использовать, если не работает регулярный режим захвата для диагностики проблем. У этого режима есть много недостатков:

• отключено исправление синхронизации, например, аудио на долгих захватах может испытать недостаток синхронизации.
• файл захвата, если он превысит 2 Гбайта, будет неработоспособным.
•  доступен только один файл захвата - никакого захвата мультисегмента.
• VirtualDub не будет в состоянии вывести на экран сжатый размер видеокадра.
• опции фильтрации видео, которые изменяют размер фрейма, запрещены.
• дисковый ввод-вывод буферизован, таким образом, что Вы можете встретиться с проблемами пропускной способности жесткого диска.

В основном это похоже на Vidcap32.

Когда возможно, используйте нормальный режим захвата (F6). Если Вы не можете захватить видео даже в режиме эмуляции, возможно у вас серьезные проблемы с системной конфигурацией.