В «Списках населенных мест Российской империи» за 1862 год деревня упоминается как Велемье.

Списки населенных мест Рязанской губернии - СПб., 1862. - Т. 35. - С. 132

По предположению П. П. Семенова, деревня относится к той группе поселений, которые основаны в XIII в. беглецами из сел, сожженных и уничтоженных татарами в верховьях Дона и Задонья. В те времена Велемьей называлась довольно значительная местность. Название это сохранилось от одного из угро-финских племен, обитавших этих краях. Само слово «велемья» в переводе с мордовского (мокшанского) языка означает «обжитая, населенная земля». По наименованию местности русские назвали здешний лес Велемским, а речку, протекавшую по нему - Велемкой. Первое русское поселение здесь также стало носить татарское имя. Правда, деревушка первоначально называлась не Велемья, а Подвелемье, то есть находившаяся под лесом, у леса Велемского.

В 1592 году указом царя Федора Иоановича, сына Ивана Грозного Подвелемье было изъято из вотчин Рязанского архиепископа, которому до этого принадлежало, и передано Ряжску. Решили так с целью поселения в ней казаков, набранных для несения сторожевой служ5 на Большой Засечной черте.

Вяли, вялья - поле (эст.). Фин. ѵаlі - промежуток в пространстве, расстояние (Вялимяки в Карелии).

Мурзаев Э. Словарь народн. геогр. терминов. – М., 1984. - С. 136

В славянском языке есть слово велья в значении «большая».

Поспелов Е. М. Историко-топонимический словарь России. - М., 2000. – С. 69

В Новгородской области есть населенный пункт Велья.

Атлас автомобильных дорог России. - М., 1998. - С. 42.