Если вы считаете, что имеющихся ЯП и их компиляторов недостаточно для решения вашей задачи, то советую: Материалы по Теории языков программирования Курс Разработка компиляторов
Не важно, какой язык программирования ты будешь разрабатывать и компилятор. Главное, разрабатывай его на каком-либо дистрибутиве GNU/Linux и обязательно по лицензии GNU GPL. Тогда поимеешь успех. Ибо только там реально оценят твои достижения.
Если вы считаете, что имеющихся ЯП и их компиляторов недостаточно для решения вашей задачи, то советую:
Материалы по Теории языков программирования
Курс Разработка компиляторов