Все предудущие эксперемены ставились на ноуте. Сегодня наконец дошли руки попробовать все те же действия на своем нормальном стационарном компе. И, о чудо, все действиетельно заработало само собой. Все файлы кодируются без проблем. Разница между компом и ноутом в отсутствии 3D акселератора на последнем. Наверное в этом и был корень зла.