Для этих целей хорошо подходят программы из раздела математические пакеты.
Так же стоит отметить несколько специализированных программ.
1) Живая геометрия- программа отлично подойдёт для построения чертежей к школьным задачам, написана в Visual C++.
Официальный сайт
Скачать последнюю бесплатную версию 2) GeoGebra- по возможностям немного превосходит "Живую геометрию", но написана на языке Java, т.е. она очень медленная. Я обычно использую именно её.
Википедия
Официальный сайт
Скачать последнюю версию