Есть формула V1=(pi/4)*(D1^2)*h1, по которой происходит вычисление.
Как будет правильно, вроде бы легко,но я путаюсь.
function areaRectangle6(){
var D1=document.forma1.t20.value||0;
  var h1=document.forma1.t21.value||0;
  
 
  if ( (D1 == 0) || (h1 == 0) ) {
        alert('Входные данные не могут быть равны 0');
      return;
    }
    if ( (D1 < 0) || (h1 < 0) ) {
        alert('Входные данные не могут быть меньше 0');
      return;
    }   
  document.forma1.res6.value=V1;
  }