Strok, Специфика вашей задачи заключеная в особенностях геймплея и задач, которые возлагаются на движок. Большинство бесплатных движков - это в основном универсальные графические движки, ориентированные на очень широкий спектр игр. Так или иначе, почти все движки, которые вам удастся найти, придется "дорабатывать напильником" - брать программиста, который приведет движок к нужному вам виду и реализует игровую механику и логику, которая отражает вашу задумку. Причем это возможно как на встроенных скриптовых языках, так и при помощи обычных компилируемых, в завсимости от архитектуры движка. Так что, в принципе, я бы посоветовал смириться с поиском двух-трех живых программистов, т.к. без них адаптировать под себя что-либо не получится (порой даже моды к на движках приходится программировать, тот же Суприм Коммандер, например, с его Lua). Как вы понимаете, исходя из того, что большинство двжков - универсальные, и лишь некоторые заточены под РТС, то и специальных редакторов у них нету (а там где есть, считайте, повезло). Однако программисты могут реализовать редактор на движке (это не сложнее написания игровой механики, при условии знания предметной области и использования визуальных сред разработки и уже реализованной, собственно, игровой механики). Из, собственно, движков, могу вспомнить Ogre, Spring. Причем второй как раз РТС-ориентированный, на нем римейк Total Annihilation делали, при этом он свободный, с открытым исходным кодом (но при этом для него затруднен рефакторинг кода, вследствие высокой степени запутанности и далеко не всеобъемлющей документации). Вроде как даже редактор там имеется, правда, я его не юзал, так что об эргономике и дружественности ничего не могу сказать. Если заинтересовало, то вам вот сюда:
http://springrts.com/