反序列化DataTable后DateTime列类型变为String类型

Posted

技术标签:

【中文标题】反序列化DataTable后DateTime列类型变为String类型【英文标题】:DateTime column type becomes String type after deserializing DataTable 【发布时间】:2016-09-03 16:44:53 【问题描述】:

我有一个包含两列的 DataTable。 ShipmentDate(DateTime) 和 Count(Int)。在我反序列化字符串后,我注意到如果第一个 itemarray 值为 null,则 ShipmentDate 的类型变为字符串。

检查以下示例。除了第一个数组项之外,两个 json 字符串都具有相同的数据。

string jsonTable1 = "[\"ShipmentDate\":null,\"Count\":3,\"ShipmentDate\":\"2015-05-13T00:00:00\",\"Count\":13,\"ShipmentDate\":\"2015-05-19T00:00:00\",\"Count\":1,\"ShipmentDate\":\"2015-05-26T00:00:00\",\"Count\":1,\"ShipmentDate\":\"2015-05-28T00:00:00\",\"Count\":2]";
string jsonTable2 = "[\"ShipmentDate\":\"2015-05-13T00:00:00\",\"Count\":13,\"ShipmentDate\":null,\"Count\":3,\"ShipmentDate\":\"2015-05-19T00:00:00\",\"Count\":1,\"ShipmentDate\":\"2015-05-26T00:00:00\",\"Count\":1,\"ShipmentDate\":\"2015-05-28T00:00:00\",\"Count\":2]";

DataTable tbl1 = Newtonsoft.Json.JsonConvert.DeserializeObject<DataTable>(jsonTable1);
DataTable tbl2 = Newtonsoft.Json.JsonConvert.DeserializeObject<DataTable>(jsonTable2);

Console.WriteLine(tbl1.Columns["ShipmentDate"].DataType);
Console.WriteLine(tbl2.Columns["ShipmentDate"].DataType);

在我的场景中,第一项数组的 ShipmentDate 可以为 null,并且通过将其转换为字符串类型会产生问题。

我有一种情况,数据表的架构是动态的。我无法创建强类型类。

【问题讨论】:

你可以尝试使用强类型对象来反序列化,而不是通用 DataTable 吗? 您可以先创建一个具有特定类型的类,然后将 json 字符串反序列化为这些对象,然后再转换为数据表。 Newtonsoft.Json.JsonConvert.DeserializeObject&lt;ShipmentModel&gt;(jsonTable1); 之后转换为数据表,如下例:***.com/questions/17088779/… @KrishnaChaithanyaMuthyala 我忘了提到我有一个数据表模式是动态的情况。我无法创建强类型类 @RashminJaviya,如果它是动态的,你怎么能说 ShipmentDate 是一个日期时间字段?也许你可以说因为你知道,但运行时怎么知道?当您说动态时,您甚至一直都没有意识到所有属性吗?或者您知道有 100 处房产,但在这些房产中,在任何时间点都只能提供一定数量的房产? @KrishnaChaithanyaMuthyala 这些列在 UI 上具有特定的行为,具体取决于列类型。是的,我不知道 columntype,但我的意思是它不应该改变。牛顿 Json 一定有什么东西 【参考方案1】:

这里的基本问题是 Json.NET 的 DataTableConverter 通过查看第一行中存在的标记值来推断每个 DataColumn.DataType。它以这种方式工作是因为它将表的 JSON 流式传输到而不是将整个加载到中间 JToken 层次结构中。虽然流式传输在减少内存使用的情况下提供了更好的性能,但这意味着第一行中的 null 值可能会导致列类型错误。

这是在 *** 上不时出现的问题,例如在问题 deserialize a datatable with a missing first column 中。在这种情况下,提问者预先知道列类型应该是double。在您的情况下,您已声明 数据表的架构是动态的,因此无法使用答案。但是,与那个问题一样,由于 Json.NET 在 MIT License 下是开源的,因此可以使用必要的逻辑创建其 DataTableConverter 的修改版本。

事实证明,通过记住具有不明确数据类型的列,然后在可以确定正确类型时将这些列替换为正确类型的列,可以正确设置列类型,同时保留流行为:

/// <summary>
/// Converts a <see cref="DataTable"/> to and from JSON.
/// </summary>
public class TypeInferringDataTableConverter : Newtonsoft.Json.Converters.DataTableConverter

    // Adapted from https://github.com/JamesNK/Newtonsoft.Json/blob/master/Src/Newtonsoft.Json/Converters/DataTableConverter.cs
    // Original license: https://github.com/JamesNK/Newtonsoft.Json/blob/master/LICENSE.md

    /// <summary>
    /// Reads the JSON representation of the object.
    /// </summary>
    /// <param name="reader">The <see cref="JsonReader"/> to read from.</param>
    /// <param name="objectType">Type of the object.</param>
    /// <param name="existingValue">The existing value of object being read.</param>
    /// <param name="serializer">The calling serializer.</param>
    /// <returns>The object value.</returns>
    public override object ReadJson(JsonReader reader, Type objectType, object existingValue, JsonSerializer serializer)
    
        if (reader.TokenType == JsonToken.Null)
        
            return null;
        

        DataTable dt = existingValue as DataTable;

        if (dt == null)
        
            // handle typed datasets
            dt = (objectType == typeof(DataTable))
                ? new DataTable()
                : (DataTable)Activator.CreateInstance(objectType);
        

        // DataTable is inside a DataSet
        // populate the name from the property name
        if (reader.TokenType == JsonToken.PropertyName)
        
            dt.TableName = (string)reader.Value;

            reader.ReadAndAssert();

            if (reader.TokenType == JsonToken.Null)
            
                return dt;
            
        

        if (reader.TokenType != JsonToken.StartArray)
        
            throw JsonSerializationExceptionHelper.Create(reader, "Unexpected JSON token when reading DataTable. Expected StartArray, got 0.".FormatWith(CultureInfo.InvariantCulture, reader.TokenType));
        

        reader.ReadAndAssert();

        var ambiguousColumnTypes = new HashSet<string>();

        while (reader.TokenType != JsonToken.EndArray)
        
            CreateRow(reader, dt, serializer, ambiguousColumnTypes);

            reader.ReadAndAssert();
        

        return dt;
    

    private static void CreateRow(JsonReader reader, DataTable dt, JsonSerializer serializer, HashSet<string> ambiguousColumnTypes)
    
        DataRow dr = dt.NewRow();
        reader.ReadAndAssert();

        while (reader.TokenType == JsonToken.PropertyName)
        
            string columnName = (string)reader.Value;

            reader.ReadAndAssert();

            DataColumn column = dt.Columns[columnName];
            if (column == null)
            
                bool isAmbiguousType;

                Type columnType = GetColumnDataType(reader, out isAmbiguousType);
                column = new DataColumn(columnName, columnType);
                dt.Columns.Add(column);

                if (isAmbiguousType)
                    ambiguousColumnTypes.Add(columnName);
            
            else if (ambiguousColumnTypes.Contains(columnName))
            
                bool isAmbiguousType;
                Type newColumnType = GetColumnDataType(reader, out isAmbiguousType);
                if (!isAmbiguousType)
                    ambiguousColumnTypes.Remove(columnName);
                if (newColumnType != column.DataType)
                
                    column = ReplaceColumn(dt, column, newColumnType, serializer);
                
            

            if (column.DataType == typeof(DataTable))
            
                if (reader.TokenType == JsonToken.StartArray)
                
                    reader.ReadAndAssert();
                

                DataTable nestedDt = new DataTable();

                var nestedUnknownColumnTypes = new HashSet<string>();

                while (reader.TokenType != JsonToken.EndArray)
                
                    CreateRow(reader, nestedDt, serializer, nestedUnknownColumnTypes);

                    reader.ReadAndAssert();
                

                dr[columnName] = nestedDt;
            
            else if (column.DataType.IsArray && column.DataType != typeof(byte[]))
            
                if (reader.TokenType == JsonToken.StartArray)
                
                    reader.ReadAndAssert();
                

                List<object> o = new List<object>();

                while (reader.TokenType != JsonToken.EndArray)
                
                    o.Add(reader.Value);
                    reader.ReadAndAssert();
                

                Array destinationArray = Array.CreateInstance(column.DataType.GetElementType(), o.Count);
                Array.Copy(o.ToArray(), destinationArray, o.Count);

                dr[columnName] = destinationArray;
            
            else
            
                object columnValue = (reader.Value != null)
                    ? serializer.Deserialize(reader, column.DataType) ?? DBNull.Value
                    : DBNull.Value;

                dr[columnName] = columnValue;
            

            reader.ReadAndAssert();
        

        dr.EndEdit();
        dt.Rows.Add(dr);
    

    static object RemapValue(object oldValue, Type newType, JsonSerializer serializer)
    
        if (oldValue == null)
            return null;
        if (oldValue == DBNull.Value)
            return oldValue;
        return JToken.FromObject(oldValue, serializer).ToObject(newType, serializer);
    

    private static DataColumn ReplaceColumn(DataTable dt, DataColumn column, Type newColumnType, JsonSerializer serializer)
    
        var newValues = Enumerable.Range(0, dt.Rows.Count).Select(i => dt.Rows[i]).Select(r => RemapValue(r[column], newColumnType, serializer)).ToList();

        var ordinal = column.Ordinal;
        var name = column.ColumnName;
        var @namespace = column.Namespace;

        var newColumn = new DataColumn(name, newColumnType);
        newColumn.Namespace = @namespace;
        dt.Columns.Remove(column);
        dt.Columns.Add(newColumn);
        newColumn.SetOrdinal(ordinal);

        for (int i = 0; i < dt.Rows.Count; i++)
            dt.Rows[i][newColumn] = newValues[i];

        return newColumn;
    

    private static Type GetColumnDataType(JsonReader reader, out bool isAmbiguous)
    
        JsonToken tokenType = reader.TokenType;

        switch (tokenType)
        
            case JsonToken.Integer:
            case JsonToken.Boolean:
            case JsonToken.Float:
            case JsonToken.String:
            case JsonToken.Date:
            case JsonToken.Bytes:
                isAmbiguous = false;
                return reader.ValueType;
            case JsonToken.Null:
            case JsonToken.Undefined:
                isAmbiguous = true;
                return typeof(string);
            case JsonToken.StartArray:
                reader.ReadAndAssert();
                if (reader.TokenType == JsonToken.StartObject)
                
                    isAmbiguous = false;
                    return typeof(DataTable); // nested datatable
                
                else
                
                    isAmbiguous = false;
                    bool innerAmbiguous;
                    // Handling ambiguity in array entries is not yet implemented because the first non-ambiguous entry in the array
                    // might occur anywhere in the sequence, requiring us to scan the entire array to determine the type, 
                    // e.g., given: [null, null, null, 314, null]
                    // we would need to scan until the 314 value, and do:
                    // return typeof(Nullable<>).MakeGenericType(new[]  reader.ValueType ).MakeArrayType();
                    Type arrayType = GetColumnDataType(reader, out innerAmbiguous);
                    return arrayType.MakeArrayType();
                
            default:
                throw JsonSerializationExceptionHelper.Create(reader, "Unexpected JSON token when reading DataTable: 0".FormatWith(CultureInfo.InvariantCulture, tokenType));
        
    


internal static class JsonSerializationExceptionHelper

    public static JsonSerializationException Create(this JsonReader reader, string format, params object[] args)
    
        // Adapted from https://github.com/JamesNK/Newtonsoft.Json/blob/master/Src/Newtonsoft.Json/JsonPosition.cs

        var lineInfo = reader as IJsonLineInfo;
        var path = (reader == null ? null : reader.Path);
        var message = string.Format(CultureInfo.InvariantCulture, format, args);
        if (!message.EndsWith(Environment.NewLine, StringComparison.Ordinal))
        
            message = message.Trim();
            if (!message.EndsWith(".", StringComparison.Ordinal))
                message += ".";
            message += " ";
        
        message += string.Format(CultureInfo.InvariantCulture, "Path '0'", path);
        if (lineInfo != null && lineInfo.HasLineInfo())
            message += string.Format(CultureInfo.InvariantCulture, ", line 0, position 1", lineInfo.LineNumber, lineInfo.LinePosition);
        message += ".";

        return new JsonSerializationException(message);
    


internal static class StringUtils

    // Adapted from https://github.com/JamesNK/Newtonsoft.Json/blob/master/Src/Newtonsoft.Json/Utilities/StringUtils.cs
    public static string FormatWith(this string format, IFormatProvider provider, object arg0)
    
        return format.FormatWith(provider, new[]  arg0 );
    

    private static string FormatWith(this string format, IFormatProvider provider, params object[] args)
    
        return string.Format(provider, format, args);
    


internal static class JsonReaderExtensions

    public static void ReadAndAssert(this JsonReader reader)
    
        if (reader == null)
            throw new ArgumentNullException("reader");
        if (!reader.Read())
        
            throw JsonSerializationExceptionHelper.Create(reader, "Unexpected end when reading JSON.");
        
    

然后像这样使用它:

var settings = new JsonSerializerSettings  Converters = new[]  new TypeInferringDataTableConverter()  ;

DataTable tbl1 = Newtonsoft.Json.JsonConvert.DeserializeObject<DataTable>(jsonTable1, settings);
DataTable tbl2 = Newtonsoft.Json.JsonConvert.DeserializeObject<DataTable>(jsonTable2, settings);

不要设置NullValueHandling = NullValueHandling.Ignore,因为现在可以正确处理空值。

原型fiddle

请注意,虽然此类处理使用null 值的列的重新键入,但它不处理包含第一个数组项为空的数组值的列的重新键入。例如,如果某列的第一行具有值

[null, null, null, 314, null]

那么推断的列类型理想地是typeof( long? [] ),但是这里没有实现。可能需要将 JSON 完全加载到 JToken 层次结构中才能做出决定。

【讨论】:

我知道你回答的前两行。但我不知道该怎么做。感谢您详细解释的答案。【参考方案2】:

我的问题64647406 链接到这里。

我发现我可以使用强类型的DataTable 派生,并预先添加我知道DataType 的任何列。 [FromBody] 不会触及这些内容,并按原样使用。只要列名正确,就可以从索引 0 开始添加——不需要添加所有列;只是那些你需要绝对控制的。

这意味着第一行中的 NULL 值不会为这些值创建 string 列。

【讨论】:

以上是关于反序列化DataTable后DateTime列类型变为String类型的主要内容,如果未能解决你的问题,请参考以下文章

SQLite SELECT查询中的自定义字段填充后不会成为DataTable中的DateTime列?

DataTable 合并多个模式

将json字符串反序列化为DataTable 对JsonConvert的补充

c#怎么判断datatable中的一个列是时间类型?

Json.net 从 HTTPClient 结果反序列化 DateTime

怎么将datatable中的数据写入实体类?