VanillaNinja,
 
var arr = [
        {"value":2, "label":"Петров А.Я."},
        {"value":3, "label":"Иванов Ж.Н."},
        {"value":4, "label":"Сидоров В.В."}
]
function fn(b) {
    var c = {};
    b.forEach(function(a, b) {
        c[a.value] = a
    });
    return function(a) {
        a = b.indexOf(c[a]);
        ~a && b.splice(a, 1)
    }
};
fn = fn(arr)
fn(3)//удаление
alert(JSON.stringify(arr));
fn(2)//удаление
alert(JSON.stringify(arr));
fn(4)//удаление
alert(JSON.stringify(arr));