LINQ 表达式返回属性值?

Posted

技术标签:

【中文标题】LINQ 表达式返回属性值?【英文标题】:LINQ Expression to return Property value? 【发布时间】:2009-02-20 01:27:22 【问题描述】:

我正在尝试创建一个通用函数来帮助我使用 LINQ to SQL 从本地列表中选择数千条记录。 SQL Server(至少 2005 年)将查询限制为 2100 个参数,我想选择更多的记录。

这是一个很好的用法示例:

var some_product_numbers = new int[]  1,2,3 ... 9999 ;

Products.SelectByParameterList(some_product_numbers, p => p.ProductNumber);

这是我的(非工作)实现:

public static IEnumerable<T> SelectByParameterList<T, PropertyType>(Table<T> items, 

IEnumerable<PropertyType> parameterList, Expression<Func<T, PropertyType>> property) where T : class

    var groups = parameterList
        .Select((Parameter, index) =>
            new
            
                GroupID = index / 2000, //2000 parameters per request
                Parameter
            
        )
        .GroupBy(x => x.GroupID)
        .AsEnumerable();

    var results = groups
    .Select(g => new  Group = g, Parameters = g.Select(x => x.Parameter)  )
    .SelectMany(g => 
        /* THIS PART FAILS MISERABLY */
        items.Where(item => g.Parameters.Contains(property.Compile()(item)))
    );

    return results;

我见过很多使用表达式构建谓词的例子。在这种情况下,我只想执行委托以返回当前 ProductNumber 的值。或者更确切地说,我想把它翻译成 SQL 查询(它在非泛型形式下工作得很好)。

我知道编译表达式只会让我回到第一方(将委托作为 Func 传递),但我不确定如何将参数传递给“未编译”的表达式。

感谢您的帮助!

**** 编辑:** 让我进一步澄清:

这是我想要概括的一个工作示例:

var local_refill_ids = Refills.Select(r => r.Id).Take(20).ToArray();

var groups = local_refill_ids
    .Select((Parameter, index) =>
        new
        
            GroupID = index / 5, //5 parameters per request
            Parameter
        
    )
    .GroupBy(x => x.GroupID)
    .AsEnumerable();

var results = groups
.Select(g => new  Group = g, Parameters = g.Select(x => x.Parameter)  )
.SelectMany(g => 
    Refills.Where(r => g.Parameters.Contains(r.Id))
)
.ToArray()
;

此 SQL 代码中的结果:

SELECT [t0].[Id], ... [t0].[Version]
FROM [Refill] AS [t0]
WHERE [t0].[Id] IN (@p0, @p1, @p2, @p3, @p4)

... That query 4 more times (20 / 5 = 4)

【问题讨论】:

【参考方案1】:

我想出了一种将查询分块的方法——即你给它 4000 个值,所以它可能会执行 4 个请求,每个请求 1000 个;带有完整的罗斯文示例。请注意,由于Expression.Invoke,这可能不适用于实体框架 - 但在 LINQ to SQL 上很好:

using System;
using System.Collections.Generic;
using System.Linq;
using System.Linq.Expressions;
using System.Reflection;

namespace ConsoleApplication5 
    /// SAMPLE USAGE
    class Program 
        static void Main(string[] args) 
            // get some ids to play with...
            string[] ids;
            using(var ctx = new DataClasses1DataContext()) 
                ids = ctx.Customers.Select(x => x.CustomerID)
                    .Take(100).ToArray();
            

            // now do our fun select - using a deliberately small
            // batch size to prove it...
            using (var ctx = new DataClasses1DataContext()) 
                ctx.Log = Console.Out;
                foreach(var cust in ctx.Customers
                        .InRange(x => x.CustomerID, 5, ids)) 
                    Console.WriteLine(cust.CompanyName);
                
            
        
    

    /// THIS IS THE INTERESTING BIT
    public static class QueryableChunked 
        public static IEnumerable<T> InRange<T, TValue>(
                this IQueryable<T> source,
                Expression<Func<T, TValue>> selector,
                int blockSize,
                IEnumerable<TValue> values) 
            MethodInfo method = null;
            foreach(MethodInfo tmp in typeof(Enumerable).GetMethods(
                    BindingFlags.Public | BindingFlags.Static)) 
                if(tmp.Name == "Contains" && tmp.IsGenericMethodDefinition
                        && tmp.GetParameters().Length == 2) 
                    method = tmp.MakeGenericMethod(typeof (TValue));
                    break;
                
            
            if(method==null) throw new InvalidOperationException(
                "Unable to locate Contains");
            foreach(TValue[] block in values.GetBlocks(blockSize)) 
                var row = Expression.Parameter(typeof (T), "row");
                var member = Expression.Invoke(selector, row);
                var keys = Expression.Constant(block, typeof (TValue[]));
                var predicate = Expression.Call(method, keys, member);
                var lambda = Expression.Lambda<Func<T,bool>>(
                      predicate, row);
                foreach(T record in source.Where(lambda)) 
                    yield return record;
                
            
        
        public static IEnumerable<T[]> GetBlocks<T>(
                this IEnumerable<T> source, int blockSize) 
            List<T> list = new List<T>(blockSize);
            foreach(T item in source) 
                list.Add(item);
                if(list.Count == blockSize) 
                    yield return list.ToArray();
                    list.Clear();
                
            
            if(list.Count > 0) 
                yield return list.ToArray();
            
        
    

【讨论】:

这处理queryable.Where(o =&gt; values.Contains(o.propertyToTest)) 的情况,用queryable.InRange(o =&gt; o.propertyToTest, blockSize, values) 替换它(如果我理解正确的话),但我正在查看2100 参数限制的类似溢出,例如queryable.Where(o =&gt; !values.Contains(o.propertyToTest))。我正在尝试修改 InRange() 以获得 NotInRange() 等效项,但我不确定如何进行布尔否定。我的想法是在foreach (T record in source.Where(lambda)) 行? 实际上,经过多次寻找,我想我已经找到了需要的东西,从你一个月前给这个答案的答案中适当地找到了:***.com/questions/457316/…, ref "这也适用于否定单个操作:" @Marc - 这将如何在 VB 中处理? yield return 显然对我们不存在。 批量大小可配置的原因是什么?我不是一直希望这像 2090 年那样吗?所以我只是在 2100 的限制下有一点玩? 调用不是必需的。您可以重复使用选择器 lambda 和参数,尽管我承认它有点脏。避免调用也会使它在我认为的其他 ORM 上可用。 (我在 LLBLGen Pro 上使用:gist.github.com/FransBouma/5e7031fe557df4b5b688【参考方案2】:

最简单的方法:使用LINQKit(免费、非限制性许可)

代码的工作版本:

public static IEnumerable<T> SelectByParameterList<T, PropertyType>(this Table<T> items, IEnumerable<PropertyType> parameterList, Expression<Func<T, PropertyType>> propertySelector, int blockSize) where T : class

    var groups = parameterList
        .Select((Parameter, index) =>
            new
            
                GroupID = index / blockSize, //# of parameters per request
                Parameter
            
        )
        .GroupBy(x => x.GroupID)
        .AsEnumerable();

    var selector = LinqKit.Linq.Expr(propertySelector);

    var results = groups
    .Select(g => new  Group = g, Parameters = g.Select(x => x.Parameter)  )
    .SelectMany(g => 
        /* AsExpandable() extension method requires LinqKit DLL */
        items.AsExpandable().Where(item => g.Parameters.Contains(selector.Invoke(item)))
    );

    return results;

示例用法:

    Guid[] local_refill_ids = Refills.Select(r => r.Id).Take(20).ToArray();

    IEnumerable<Refill> results = Refills.SelectByParameterList(local_refill_ids, r => r.Id, 10); //runs 2 SQL queries with 10 parameters each

再次感谢您的帮助!

【讨论】:

与我的 InRange 回复相比,我会对 TSQL 的作用感兴趣... SELECT [t0].[Id], ... [t0].[Version] FROM [Refill] AS [t0] WHERE [t0].[Id] IN (@p0, @p1 , @p2, @p3, @p4, @p5, @p6, @p7, @p8, @p9) ... 查询 2 次 (20 / 10 = 2) 您对 blockSize 有什么建议,以便使用 LinqToSql 优化查询?或者,换一种说法,大块的查询越少越好,还是小块的查询多? 您通常希望尽可能少的块。主要问题是 SQL Server 每个查询/命令只允许 2100 个参数。我通常会使用 2000 的块大小。【参考方案3】:

LINQ-to-SQL 仍可通过标准 SQL 参数工作,因此编写花哨的表达式不会有帮助。这里有 3 个常用选项:

将 id 打包到(例如)csv/tsv 中;作为varchar(max) 向下传递并使用udf 将其(在服务器上)拆分为表变量;加入表变量 在 SQL Server 2008 中使用表值参数 在服务器上有一个表,您可以将 ID 推送到其中(可能通过 SqlBulkCopy)(可能使用“会话 guid”或类似的);加入此表

第一种是最简单的;获得“拆分 csv udf”是微不足道的(只需搜索它)。将 udf 拖到数据上下文中并从那里使用。

【讨论】:

这不是必需的。请参阅下面的答案。【参考方案4】:

IQuerable 传递给Contains 函数,而不是列表或数组。请看下面的例子

var df_handsets = db.DataFeed_Handsets.Where(m => m.LaunchDate != null).
                  Select(m => m.Name);
var Make = (from m in db.MobilePhones
    where (m.IsDeleted != true || m.IsDeleted == null)
        && df_handsets.Contains(m.Name)
    orderby m.Make
    select new  Value = m.Make, Text = m.Make ).Distinct();

当你传递列表或数组时,它以参数的形式传递,当列表项计数大于2100时,它会超过计数。

【讨论】:

您假设要匹配的集合来自数据库本身。情况并非总是如此。【参考方案5】:

您可以创建自己的 QueryProvider

public class QueryProvider : IQueryProvider

    // Translates LINQ query to SQL.
    private readonly Func<IQueryable, DbCommand> _translator;

    // Executes the translated SQL and retrieves results.
    private readonly Func<Type, string, object[], IEnumerable> _executor;

    public QueryProvider(
        Func<IQueryable, DbCommand> translator,
        Func<Type, string, object[], IEnumerable> executor)
    

        this._translator = translator;
        this._executor = executor;
    

    #region IQueryProvider Members

    public IQueryable<TElement> CreateQuery<TElement>(Expression expression)
    
        return new Queryable<TElement>(this, expression);
    

    public IQueryable CreateQuery(Expression expression)
    
        throw new NotImplementedException();
    

    public TResult Execute<TResult>(Expression expression)
    
        bool isCollection = typeof(TResult).IsGenericType &&
            typeof(TResult).GetGenericTypeDefinition() == typeof(IEnumerable<>);
        var itemType = isCollection
            // TResult is an IEnumerable`1 collection.
            ? typeof(TResult).GetGenericArguments().Single()
            // TResult is not an IEnumerable`1 collection, but a single item.
            : typeof(TResult);
        var queryable = Activator.CreateInstance(
            typeof(Queryable<>).MakeGenericType(itemType), this, expression) as IQueryable;

        IEnumerable queryResult;

        // Translates LINQ query to SQL.
        using (var command = this._translator(queryable))
        
            var parameters = command.Parameters.OfType<DbParameter>()
                .Select(parameter => parameter)
                .ToList();

            var query = command.CommandText;
            var newParameters = GetNewParameterList(ref query, parameters);

            queryResult = _executor(itemType,query,newParameters);
        

        return isCollection
            ? (TResult)queryResult // Returns an IEnumerable`1 collection.
            : queryResult.OfType<TResult>()
                         .SingleOrDefault(); // Returns a single item.
           

    public object Execute(Expression expression)
    
        throw new NotImplementedException();
    

    #endregion

     private static object[] GetNewParameterList(ref string query, List<DbParameter> parameters)
    
        var newParameters = new List<DbParameter>(parameters);

        foreach (var dbParameter in parameters.Where(p => p.DbType == System.Data.DbType.Int32))
        
            var name = dbParameter.ParameterName;
            var value = dbParameter.Value != null ? dbParameter.Value.ToString() : "NULL";
            var pattern = String.Format("0[^0-9]", dbParameter.ParameterName);
            query = Regex.Replace(query, pattern, match => value + match.Value.Replace(name, ""));
            newParameters.Remove(dbParameter);
        

        for (var i = 0; i < newParameters.Count; i++)
        
            var parameter = newParameters[i];
            var oldName = parameter.ParameterName;
            var pattern = String.Format("0[^0-9]", oldName);
            var newName = "@p" + i;
            query = Regex.Replace(query, pattern, match => newName + match.Value.Replace(oldName, ""));
              

        return newParameters.Select(x => x.Value).ToArray();
    



    static void Main(string[] args)
    
        using (var dc=new DataContext())
        
            var provider = new QueryProvider(dc.GetCommand, dc.ExecuteQuery);

            var serviceIds = Enumerable.Range(1, 2200).ToArray();

            var tasks = new Queryable<Task>(provider, dc.Tasks).Where(x => serviceIds.Contains(x.ServiceId) && x.CreatorId==37 && x.Creator.Name=="12312").ToArray();

        

    

【讨论】:

以上是关于LINQ 表达式返回属性值?的主要内容,如果未能解决你的问题,请参考以下文章

操作LINQ 中 怎么 Select Tuple 类的值?

LINQ to Entities OrderBy 表达式树

在 LINQ 查询中将 KeyValuePair 转换为匿名类型

具有嵌套属性的动态 linq 表达式树

LINQ查询表达式 - LINQ 查询分组

Expression表达式树动态查询