Допустим, необходимо, что размер диретории /folder не привышал определенного размера, в него периодически складываются файлы. При достижении определенного порога, выполняется удаление самых старых файлов по одному с конца, пока размер не станет меньше порога (5000 МБ).

while [ $(du -sm /folder/ |cut -f1) -gt 5000 ]; do rm -f "$(find /folder/ -type f -printf '%Ts\t%p\n' | sort -nr | awk '{print $2}' | tail -n1)";done